Декодирование звуковых данных Opus

Ответ 1

Я думаю, что программа opus_demo.c из исходного архива имеет то, что вы хотите.

Это довольно сложно, хотя из-за всего несвязанного кода, относящегося к

• кодирование, анализ параметров кодировщика из аргументов командной строки
• инъекция искусственных пакетов
• случайный выбор/изменение рамки на лету
• inband FEC (означает декодирование на два буфера, переключение между ними)
• отладка и проверка
• отчеты о скорости передачи данных по битам

Удаление всех этих битов - очень утомительная работа, как выясняется. Но как только вы это сделаете, вы получите довольно чистый, понятный код, см. Ниже.

Заметим, что I

• сохранил код протокола "потеря пакетов" (даже если потеря пакетов не будет считаться из файла) для справки
• сохранил код, который проверяет конечный диапазон после декодирования каждого кадра

В основном потому, что он, похоже, не усложняет код, и вы можете быть заинтересованы в нем.

Я тестировал эту программу двумя способами:

• aurally (путем проверки того, что монофонический wav, предварительно закодированный с использованием opus_demo, был правильно декодирован с использованием этого дешифратора). Тест wav был ~ 23Mb, 2.9Mb сжат.
• регрессия протестирована вместе с vanilla opus_demo при вызове ./opus_demo -d 48000 1 <opus-file> <pcm-file>. Результирующий файл имел ту же контрольную сумму md5sum, что и тот, который был декодирован с использованием разделенного декодера.

ОСНОВНОЕ ОБНОВЛЕНИЕ я С++ - введите код. Это должно заставить вас где-нибудь использовать iostreams.

• Обратите внимание на цикл на fin.readsome сейчас; этот цикл можно было бы сделать "асинхронным" (т.е. его можно было бы вернуть и продолжить чтение при поступлении новых данных (при следующем вызове вашей функции Decode?) ^[1]
• Я отключил зависимости opus.h от файла заголовка
• Я заменил "все" ручное управление памятью стандартной библиотекой (vector, unique_ptr) для безопасности и надежности исключений.
• Я реализовал класс OpusErrorException, полученный из std::exception, который используется для распространения ошибок из libopus

Смотрите весь код + Makefile здесь: https://github.com/sehe/opus/tree/master/contrib

^[1] для истинного асинхронного ввода-вывода (например, сетевого или последовательного соединения) рассмотрите возможность использования Boost Asio, см., например, http://www.boost.org/doc/libs/1_53_0/doc/html/boost_asio/overview/networking/iostreams.html

Файл заголовка

// (c) Seth Heeren 2013
//
// Based on src/opus_demo.c in opus-1.0.2
// License see http://www.opus-codec.org/license/
#include <stdexcept>
#include <memory>
#include <iosfwd>

struct OpusErrorException : public virtual std::exception
{
    OpusErrorException(int code) : code(code) {}
    const char* what() const noexcept;
private:
    const int code;
};

struct COpusCodec
{
    COpusCodec(int32_t sampling_rate, int channels);
    ~COpusCodec();

    bool decode_frame(std::istream& fin, std::ostream& fout);
private:
    struct Impl;
    std::unique_ptr<Impl> _pimpl;
};

Файл реализации

// (c) Seth Heeren 2013
//
// Based on src/opus_demo.c in opus-1.0.2
// License see http://www.opus-codec.org/license/
#include "COpusCodec.hpp"
#include <vector>
#include <iomanip>
#include <memory>
#include <sstream>

#include "opus.h"

#define MAX_PACKET 1500

const char* OpusErrorException::what() const noexcept
{
    return opus_strerror(code);
}

// I'd suggest reading with boost::spirit::big_dword or similar
static uint32_t char_to_int(char ch[4])
{
    return static_cast<uint32_t>(static_cast<unsigned char>(ch[0])<<24) |
        static_cast<uint32_t>(static_cast<unsigned char>(ch[1])<<16) |
        static_cast<uint32_t>(static_cast<unsigned char>(ch[2])<< 8) |
        static_cast<uint32_t>(static_cast<unsigned char>(ch[3])<< 0);
}

struct COpusCodec::Impl
{
    Impl(int32_t sampling_rate = 48000, int channels = 1)
    : 
        _channels(channels),
        _decoder(nullptr, &opus_decoder_destroy),
        _state(_max_frame_size, MAX_PACKET, channels)
    {
        int err = OPUS_OK;
        auto raw = opus_decoder_create(sampling_rate, _channels, &err);
        _decoder.reset(err == OPUS_OK? raw : throw OpusErrorException(err) );
    }

    bool decode_frame(std::istream& fin, std::ostream& fout)
    {
        char ch[4] = {0};

        if (!fin.read(ch, 4) && fin.eof())
            return false;

        uint32_t len = char_to_int(ch);

        if(len>_state.data.size())
            throw std::runtime_error("Invalid payload length");

        fin.read(ch, 4);
        const uint32_t enc_final_range = char_to_int(ch);
        const auto data = reinterpret_cast<char*>(&_state.data.front());

        size_t read = 0ul;
        for (auto append_position = data; fin && read<len; append_position += read)
        {
            read += fin.readsome(append_position, len-read);
        }

        if(read<len)
        {
            std::ostringstream oss;
            oss << "Ran out of input, expecting " << len << " bytes got " << read << " at " << fin.tellg();
            throw std::runtime_error(oss.str());
        }

        int output_samples;
        const bool lost = (len==0);
        if(lost)
        {
            opus_decoder_ctl(_decoder.get(), OPUS_GET_LAST_PACKET_DURATION(&output_samples));
        }
        else
        {
            output_samples = _max_frame_size;
        }

        output_samples = opus_decode(
                _decoder.get(), 
                lost ? NULL : _state.data.data(),
                len,
                _state.out.data(),
                output_samples,
                0);

        if(output_samples>0)
        {
            for(int i=0; i<(output_samples)*_channels; i++)
            {
                short s;
                s=_state.out[i];
                _state.fbytes[2*i]   = s&0xFF;
                _state.fbytes[2*i+1] = (s>>8)&0xFF;
            }
            if(!fout.write(reinterpret_cast<char*>(_state.fbytes.data()), sizeof(short)* _channels * output_samples))
                throw std::runtime_error("Error writing");
        }
        else
        {
            throw OpusErrorException(output_samples); // negative return is error code
        }

        uint32_t dec_final_range;
        opus_decoder_ctl(_decoder.get(), OPUS_GET_FINAL_RANGE(&dec_final_range));

        /* compare final range encoder rng values of encoder and decoder */
        if(enc_final_range!=0
                && !lost && !_state.lost_prev
                && dec_final_range != enc_final_range)
        {
            std::ostringstream oss;
            oss << "Error: Range coder state mismatch between encoder and decoder in frame " << _state.frameno << ": " <<
                    "0x" << std::setw(8) << std::setfill('0') << std::hex << (unsigned long)enc_final_range <<
                    "0x" << std::setw(8) << std::setfill('0') << std::hex << (unsigned long)dec_final_range;

            throw std::runtime_error(oss.str());
        }

        _state.lost_prev = lost;
        _state.frameno++;

        return true;
    }
private:
    const int _channels;
    const int _max_frame_size = 960*6;
    std::unique_ptr<OpusDecoder, void(*)(OpusDecoder*)> _decoder;

    struct State
    {
        State(int max_frame_size, int max_payload_bytes, int channels) :
            out   (max_frame_size*channels),
            fbytes(max_frame_size*channels*sizeof(decltype(out)::value_type)),
            data  (max_payload_bytes)
        { }

        std::vector<short>         out;
        std::vector<unsigned char> fbytes, data;
        int32_t frameno   = 0;
        bool    lost_prev = true;
    };
    State _state;
};

COpusCodec::COpusCodec(int32_t sampling_rate, int channels)
    : _pimpl(std::unique_ptr<Impl>(new Impl(sampling_rate, channels)))
{
    //
}

COpusCodec::~COpusCodec()
{
    // this instantiates the pimpl deletor code on the, now-complete, pimpl class
}

bool COpusCodec::decode_frame(
        std::istream& fin,
        std::ostream& fout)
{
    return _pimpl->decode_frame(fin, fout);
}

test.cpp

// (c) Seth Heeren 2013
//
// Based on src/opus_demo.c in opus-1.0.2
// License see http://www.opus-codec.org/license/
#include <fstream>
#include <iostream>

#include "COpusCodec.hpp"

int main(int argc, char *argv[])
{
    if(argc != 3)
    {
        std::cerr << "Usage: " << argv[0] << " <input> <output>\n";
        return 255;
    }

    std::basic_ifstream<char> fin (argv[1], std::ios::binary);
    std::basic_ofstream<char> fout(argv[2], std::ios::binary);

    if(!fin)  throw std::runtime_error("Could not open input file");
    if(!fout) throw std::runtime_error("Could not open output file");

    try
    {
        COpusCodec codec(48000, 1);

        size_t frames = 0;
        while(codec.decode_frame(fin, fout))
        {
            frames++;
        }

        std::cout << "Successfully decoded " << frames << " frames\n";
    }
    catch(OpusErrorException const& e)
    {
        std::cerr << "OpusErrorException: " << e.what() << "\n";
        return 255;
    }
}

Ответ 2

libopus предоставляет API для преобразования пакетов opus в куски данных PCM и наоборот.

Но для хранения opus-пакетов в файле вам нужен какой-то вид контейнера, который сохраняет границы пакетов. opus_demo - это демонстрационное приложение: он имеет свой минимальный формат контейнера для целей тестирования, который не документирован, и поэтому файлы, созданные с помощью opus_demo, не должны распространяться. Стандартный формат контейнера для файлов opus - Ogg, который также обеспечивает поддержку метаданных и выборочного точного декодирования и эффективного поиска потоков переменной битрейта. Файлы Ogg Opus имеют расширение ".opus".

Спецификация Ogg Opus находится в https://wiki.xiph.org/OggOpus.

(Так как Opus также является кодеком VoIP, используются Opus, для которых не требуется контейнер, например, передача пакетов Opus непосредственно через UDP.)

Итак, сначала вы должны закодировать свои файлы с помощью opusenc из opus-tools, а не opus_demo. Другое программное обеспечение также может создавать файлы Ogg Opus (например, gstreamer и ffmpeg могут, например), но вы не можете ошибиться с opus-инструментами, поскольку это ссылочная реализация.

Затем, если ваши файлы являются стандартными файлами Ogg Opus (которые могут быть прочитаны, скажем, Firefox), вам нужно сделать следующее: (a) извлечь пакеты opus из контейнера Ogg; (b) передать пакеты в libopus и вернуть raw PCM.

Удобно, есть библиотека под названием libopusfile, которая делает именно это. libopusfile поддерживает все функции потоков Ogg Opus, включая метаданные и поиск (в том числе поиск по HTTP-соединению).

libopusfile доступен в https://git.xiph.org/?p=opusfile.git. API документирован здесь, а там пример кода для декодирование в WAV. Поскольку вы на окнах, я должен добавить, что на странице downloads есть готовые DLL.