ヘルプに説明がありますが、背景色を透明にする場合元の画像の左上の隅のピクセルの色が背景色として認識されるので、そこの部分がこの条件に合っていることが重要です。もしこの部分に他の色がついている場合、原画の画像自身の大きさを広げるなどして背景色になるようにしておく必要があります。

お作り頂いた画像が、背景色を透明にする要件を満たしている場合、AVI Makerのツールバーの[透過]を押すことで背景色が透明になる様子を確認いただけます。

ただし、これもヘルプに説明がありますが、実際のコントロールで背景色を透明にするかはコントロールのスタイル次第ですで、コントロールのスタイルにACS_TRANSPARENTを指定しないと実際には透明には表示されません。具体的には、ＶＣ＋＋の場合アニメーションコントロールのプロパティーで、スタイルタブの透過をチェックしなくてはなりません。