A ver, el código exacto tampoco te lo voy a hacer...

Veamos, primero deberás coger los datos de las columnas.
Código :
n1 = objeto.target.getItemAt(objeto.target.selectedIndex).columna1;
n2 = objeto.target.getItemAt(objeto.target.selectedIndex).columna2;
Luego esos dos valores multiplicalos y metelos en una tercera columna.
Código :
resultado = n1 * n2;
objeto.target.getItemAt(objeto.target.selectedIndex).columna3 = resultado;
Todo eso deberías meterlo dentro de un evento "change" del DataGrid. Para más información te sugiero que te leas los tutoriales de componentes de listeners y DataGrid, los encontrarás en la sección Tutoriales.
Deu!!