Hola amigo ya este tema lo he visto antes deberias buscar un poco mejor que por hay unas aplicaciones especiales para cds multimedia que son extenciones de funciones que no hace flash como crear carpetas abrir archivos y cosasa asi, el nombre de dicha aplicacion no la recuerdo bien disculpa es algo asi como MDM o DMD

bueno.
La cosa tambien es que quieres que desde el proyectod e flash te reprodusca el AVI? o quieres que simplemente te ejecute el Avi y lo reproduzca en su reproductor asociado??
Para mi lo mejor seria convertir los videos en .flv para verlos dentro del proyecto y que no te tengas que salir del proyecto actual y tener que usar aplicaciones externas
Si dices que se pierde mucha calidad pues entonces no las comprimas tanto, puyales la calidad maxima y vuelve a intentar.

Por tanto si lo que quieres es abrir un archivo sea cual sea con su programa asociado desde flash
aqui te dejo esta pequeña aplicacion que hice, por ejemplo un archivo de word lo abre con word es como si hicieras doble click sobre el archivo...
Tienes que crear un carpeta que se llame "fscommand" en la misma carpeta donde esta tu proyecto.
bajate el archivo "fscommand.rar"
desde este enlace:
http://www.usuarios.lycos.es/navarrohidalgo/CL/Dentro de "fscommand" coloca el contenido del archivo "fscommand.rar"
Coloca esto en un boton en tu proyecto
Código :
on (release) {
fscommand("exec", "ShellOpenFile.exe");
}
Cuando presiones el boton se te abrirá en word el archivo de prueba "Guia Digital.doc"
Para hacer eso con cualquier archivo sea .avi .mov .doc .loqueSea
Solo coloca el nombre del archivo que deseas abrir dentro del archivo "ShellFilePath.txt" y listo.
Si eso es lo que necesitabas espero te sirva