用 "VirtualDubMod" 這個軟體，選 "Demux"，就可以分離出 .ac3，而不是包著 WAV 檔頭的 AC3。
DVD Maestro 不能辨認這種 WAV 檔頭的 AC3。
新版的 "VirtualDubMod" 把 Audio 選單改成 Stream 選單，操作方式有些不一樣，我最近沒有用，不清楚改版之後的詳細步驟，需自行研究 "Demux" 選項在哪裡。
軟體名稱叫做 "VirtualDubMod" 不是 "VirtualDub"。

詳細原理，若有興趣，以前寫過一篇
==
Nandub 分離出來的是 RIFF 檔頭的 AC3 資料流，也就是 WAV 文件格式，裡面包的是 AC3 的資料，檔頭會註明裡面包的是壓縮的訊源，需要用哪一個 decompressor 來解碼。
這種 AVI-AC3 文件丟給播放器播放，首先會經過 AVI Spiliter，這個 filter 會將 AVI 內的影像和聲音的資料分離，交給對應的 decompressor 去解碼。
聲音部分分離出來的是 RIFF WAV-AC3，如果你系統裝的 AC3 解碼器是 WinDVD 的 iviaudio.ax，這個 filter 只接受 MPEG system stream 分離出來的 PES 封包格式的 AC3 資料流，不能解有 RIFF 檔頭的 WAV-AC3，它不認識，也不會告訴系統知道它能解這種 AC3。
所以使用 iviaudio.ax 解碼 AVI-AC3，必須要加上另一個文件，叫做 MPGAUDIO.AX。這個文件看名稱可能猜不出來它是做什麼的，其實它是一個 Warpper，它接受 RIFF WAV-AC3 的輸入，然後去掉檔頭，重新把裡面包的 AC3 資料流包裝成 PES 的 AC3 stream，偽裝成是從 MPEG 文件分離出來的，再送給 iviaudio.ax 解碼，這樣就可以解了。
而如果裝的是俄羅斯的 AC3Filter，這個 filter 直接可以吃 WAV-AC3 的輸入，所以不需要 MPGAUDIO.AX 便可以解碼。
所以你分離出來的 WAV-AC3 可以播放沒有問題。

而 Soft Encode 接受的輸入是 .ac3 PES 封包格式的 AC3 資料流，你拿 WAV-AC3 去給它解，它會不認識，不知道這裡面包的是 AC3。它讀取檔頭的時候會發現這不是 PES 的檔頭，就會告訴你文件格式錯誤，不讓你開啟。
使用 RAW 模式讀取，就是把文件當成沒有任何檔頭資料的資料流，當成從文件一開始就是真正的音訊 sample 資料，用這種模式去讀取 WAV-AC3，得出來的結果當然是錯的。

那麼要怎麼樣讓 Soft Encode 解碼 AVI 裡面的 AC3 呢？我想有兩個辦法：
1. 將 Nandub 分離出來的 WAV-AC3 重新處理，去掉 WAV 檔頭，變成真正的 .ac3 資料流，便可以讓 Soft Encode 讀取。處理的軟體我沒找過，不過我想應該有，您可以自行找找看。

2. 不要用 Nandub 分離。事實上我完全不建議再用 Nandub 來處理任何音訊合併、分離，有很多問題，我覺得 Nandub 應該丟到垃圾桶...
改成用 VirtualDubMod 來做分離，選 Demux，就可以直接分離出 PES 格式的 .ac3。

以上提到的軟體都可以用 www.google.com 很快速方便地找到下載。