一、前言

最近一個月一直在研究mdk-sdk音視頻組件，這個組件是原qtav作者的最新力作，提供了各種各樣的示例demo，不僅限于支持C++，其他各種比如java/flutter/web/android等全部支持，性能上也是杠杠的，目前大概是在V0.23版本，大部分軟件發(fā)布基本上都是在1.0版本才是比較穩(wěn)定的，不過目前用下來，感覺還是挺不錯的，跨平臺，什么windows/linux/macos/ios/android/web等全部支持，底層還支持各種渲染框架。其實mdk底層就是封裝的ffmpeg，也可以說核心就是ffmpeg，得益于作者在ffmpeg的使用方面應(yīng)該是到了如火純情的境界，主要是三大塊，一塊是音視頻同步、一塊是硬解碼、一塊是渲染到不同的平臺。這三大快在音視頻領(lǐng)域都是重點也是難點，要想做的穩(wěn)定做得好性能又好，是很難的。沒個十年八年的功力是不行的。

由于mdk-sdk作者也是搞qt開發(fā)很多年，所以對qt+mdk的使用提供了非常友好完善的示例。
第一步：下載示例源碼 git clone git@github.com:wang-bin/mdk-examples.git
第二步：下載庫文件 https://sourceforge.net/projects/mdk-sdk/files/nightly/
第三步：將mdk-sdk目錄放到mdk-examples目錄下。
第四步：打開projects.pro編譯就行，如果本機(jī)沒有vulkan環(huán)境，可以注釋vkwindow、qmlrhi 、qmlrhi0項目。

在經(jīng)歷眾多音視頻組件的各種高強(qiáng)度對比測試驗證下，mdk的優(yōu)點非常多，這里就不多說，缺點就是線程有點多，一個播放基本上就占了30個線程，10個就是300，可能是通過犧牲一部分內(nèi)存來提升性能，好比谷歌瀏覽器也是占內(nèi)存大戶，但是性能強(qiáng)悍，目前幾乎是一統(tǒng)瀏覽器江湖。各種播放組件中，對于4K、8K、16K視頻文件的解碼，開啟硬解碼模式下，mpv是全宇宙CPU占用最低的，其次就是mdk，vlc的表現(xiàn)最拉垮。可能mpv直接走的屏幕繪制，直接是顯卡中的數(shù)據(jù)繪制的，沒有經(jīng)過內(nèi)存拷貝。

二、效果圖

三、體驗地址

1. 國內(nèi)站點：https://gitee.com/feiyangqingyun
2. 國際站點：https://github.com/feiyangqingyun
3. 個人作品：https://blog.csdn.net/feiyangqingyun/article/details/97565652
4. 體驗地址：https://pan.baidu.com/s/1d7TH_GEYl5nOecuNlWJJ7g 提取碼：01jf 文件名：bin_video_demo。

四、功能特點

4.1. 基礎(chǔ)功能

1. 支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
2. 支持本地攝像頭設(shè)備和本地桌面采集，支持多設(shè)備和多屏幕。
3. 支持各種視頻流格式，比如rtp、rtsp、rtmp、http、udp等。
4. 本地音視頻文件和網(wǎng)絡(luò)音視頻文件，自動識別文件長度、播放進(jìn)度、音量大小、靜音狀態(tài)等。
5. 文件可以指定播放位置、調(diào)節(jié)音量大小、設(shè)置靜音狀態(tài)等。
6. 支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當(dāng)于慢放和快放。
7. 支持開始播放、停止播放、暫停播放、繼續(xù)播放。
8. 支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動顯示預(yù)覽。
9. 支持錄像存儲，手動開始錄像、停止錄像，部分內(nèi)核支持暫停錄像后繼續(xù)錄像，跳過不需要錄像的部分。
10. 支持無感知切換循環(huán)播放、自動重連等機(jī)制。
11. 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號。
12. 多線程處理，一個解碼一個線程，不卡主界面。

4.2. 特色功能

1. 同時支持多種解碼內(nèi)核，包括qmedia內(nèi)核（Qt4/Qt5/Qt6）、ffmpeg內(nèi)核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5/ffmpeg6）、vlc內(nèi)核（vlc2/vlc3）、mpv內(nèi)核（mpv1/mp2）、mdk內(nèi)核、海康sdk、easyplayer內(nèi)核等。
2. 非常完善的多重基類設(shè)計，新增一種解碼內(nèi)核只需要實現(xiàn)極少的代碼量，就可以應(yīng)用整套機(jī)制，極易拓展。
3. 同時支持多種畫面顯示策略，自動調(diào)整（原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示，否則等比縮放）、等比縮放（永遠(yuǎn)等比縮放）、拉伸填充（永遠(yuǎn)拉伸填充）。所有內(nèi)核和所有視頻顯示模式下都支持三種畫面顯示策略。
4. 同時支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對方繪制控制）、繪制模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成QImage用QPainter繪制）、GPU模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成yuv用QOpenglWidget繪制）。
5. 支持多種硬件加速類型，ffmpeg可選dxva2、d3d11va等，vlc可選any、dxva2、d3d11va，mpv可選auto、dxva2、d3d11va，mdk可選dxva2、d3d11va、cuda、mft等。不同的系統(tǒng)環(huán)境有不同的類型選擇，比如linux系統(tǒng)有vaapi、vdpau，macos系統(tǒng)有videotoolbox。
6. 解碼線程和顯示窗體分離，可指定任意解碼內(nèi)核掛載到任意顯示窗體，動態(tài)切換。
7. 支持共享解碼線程，默認(rèn)開啟并且自動處理，當(dāng)識別到相同的視頻地址，共享一個解碼線程，在網(wǎng)絡(luò)視頻環(huán)境中可以大大節(jié)約網(wǎng)絡(luò)流量以及對方設(shè)備的推流壓力。國內(nèi)頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
8. 自動識別視頻旋轉(zhuǎn)角度并繪制，比如手機(jī)上拍攝的視頻一般是旋轉(zhuǎn)了90度的，播放的時候要自動旋轉(zhuǎn)處理，不然默認(rèn)是倒著的。
9. 自動識別視頻流播放過程中分辨率的變化，在視頻控件上自動調(diào)整尺寸。比如攝像機(jī)可以在使用過程中動態(tài)配置分辨率，當(dāng)分辨率改動后對應(yīng)視頻控件也要做出同步反應(yīng)。
10. 音視頻文件無感知自動切換循環(huán)播放，不會出現(xiàn)切換期間黑屏等肉眼可見的切換痕跡。
11. 視頻控件同時支持任意解碼內(nèi)核、任意畫面顯示策略、任意視頻顯示模式。
12. 視頻控件懸浮條同時支持句柄、繪制、GPU三種模式，非絕對坐標(biāo)移來移去。
13. 本地攝像頭設(shè)備支持指定設(shè)備名稱、分辨率、幀率進(jìn)行播放。
14. 本地桌面采集支持設(shè)定采集區(qū)域、偏移值、指定桌面索引、幀率、多個桌面同時采集等。
15. 錄像文件同時支持打開的視頻文件、本地攝像頭、本地桌面、網(wǎng)絡(luò)視頻流等。
16. 瞬間響應(yīng)打開和關(guān)閉，無論是打開不存在的視頻或者網(wǎng)絡(luò)流，探測設(shè)備是否存在，讀取中的超時等待，收到關(guān)閉指令立即中斷之前的操作并響應(yīng)。
17. 支持打開各種圖片文件，支持本地音視頻文件拖曳播放。
18. 視頻流通信方式可選tcp/udp，有些設(shè)備可能只提供了某一種協(xié)議通信比如tcp，需要指定該種協(xié)議方式打開。
19. 可設(shè)置連接超時時間（視頻流探測用的超時時間）、讀取超時時間（采集過程中的超時時間）。
20. 支持逐幀播放，提供上一幀/下一幀函數(shù)接口，可以逐幀查閱采集到的圖像。
21. 音頻文件自動提取專輯信息比如標(biāo)題、藝術(shù)家、專輯、專輯封面，自動顯示專輯封面。
22. 視頻響應(yīng)極低延遲0.2s左右，極速響應(yīng)打開視頻流0.5s左右，專門做了優(yōu)化處理。
23. 支持H264/H265編碼（現(xiàn)在越來越多的監(jiān)控攝像頭是H265視頻流格式）生成視頻文件，內(nèi)部自動識別切換編碼格式。
24. 支持用戶信息中包含特殊字符（比如用戶信息中包含+#@等字符）的視頻流播放，內(nèi)置解析轉(zhuǎn)義處理。
25. 支持濾鏡，各種水印及圖形效果，支持多個水印和圖像，可以將OSD標(biāo)簽信息和各種圖形信息寫入到MP4文件。
26. 支持視頻流中的各種音頻格式，AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持，推薦選擇AAC兼容性跨平臺性最好。
27. 內(nèi)核ffmpeg采用純qt+ffmpeg解碼，非sdl等第三方繪制播放依賴，gpu繪制采用qopenglwidget，音頻播放采用qaudiooutput。
28. 內(nèi)核ffmpeg和內(nèi)核mdk支持安卓，其中mdk支持安卓硬解碼，性能非常兇殘。
29. 可以切換音視頻軌道，也就是節(jié)目通道，可能ts文件帶了多個音視頻節(jié)目流，可以分別設(shè)置要播放哪一個，可以播放前設(shè)置好和播放過程中動態(tài)設(shè)置。
30. 可以設(shè)置視頻旋轉(zhuǎn)角度，可以播放前設(shè)置好和播放過程中動態(tài)設(shè)置。
31. 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關(guān)閉視頻等功能。
32. 音頻組件支持聲音波形值數(shù)據(jù)解析，可以根據(jù)該值繪制波形曲線和柱狀聲音條，默認(rèn)提供了聲音振幅信號。
33. 標(biāo)簽和圖形信息支持三種繪制方式，繪制到遮罩層、繪制到圖片、源頭繪制（對應(yīng)信息可以存儲到文件）。
34. 通過傳入一個url地址，該地址可以帶上通信協(xié)議、分辨率、幀率等信息，無需其他設(shè)置。
35. 保存視頻到文件支持三種策略，自動處理、僅限文件、全部轉(zhuǎn)碼，轉(zhuǎn)碼策略支持自動識別、轉(zhuǎn)264、轉(zhuǎn)265，編碼保存支持指定分辨率縮放或者等比例縮放。比如對保存文件體積有要求可以指定縮放后再存儲。
36. 支持加密保存文件和解密播放文件，可以指定秘鑰文本。
37. 支持電子放大，在懸浮條切換到電子放大模式，在畫面上選擇需要放大的區(qū)域，選取完畢后自動放大，再次切換放大模式可以復(fù)位。
38. 各組件中極其詳細(xì)的打印信息提示，尤其是報錯信息提示，封裝的統(tǒng)一打印格式。針對現(xiàn)場復(fù)雜的設(shè)備環(huán)境測試極其方便有用，相當(dāng)于精確定位到具體哪個通道哪個步驟出錯。
39. 同時提供了簡單示例、視頻播放器、多畫面視頻監(jiān)控、監(jiān)控回放、逐幀播放、多屏渲染等單獨窗體示例，專門演示對應(yīng)功能如何使用。
40. 代碼框架和結(jié)構(gòu)優(yōu)化到最優(yōu)，性能強(qiáng)悍，持續(xù)迭代更新升級。
41. 源碼支持Qt4、Qt5、Qt6，兼容所有版本。

4.3. 視頻控件

1. 可動態(tài)添加任意多個osd標(biāo)簽信息，標(biāo)簽信息包括名字、是否可見、字號大小、文本文字、文本顏色、背景顏色、標(biāo)簽圖片、標(biāo)簽坐標(biāo)、標(biāo)簽格式（文本、日期、時間、日期時間、圖片）、標(biāo)簽位置（左上角、左下角、右上角、右下角、居中、自定義坐標(biāo)）。
2. 可動態(tài)添加任意多個圖形信息，這個非常有用，比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀，直接繪制在原始圖片上，采用絕對坐標(biāo)。
3. 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點坐標(biāo)集合等。
4. 每個圖形信息都可指定三種區(qū)域中的一種或者多種，指定了的都會繪制。
5. 內(nèi)置懸浮條控件，懸浮條位置支持頂部、底部、左側(cè)、右側(cè)。
6. 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標(biāo)代碼集合、按鈕名稱標(biāo)識集合、按鈕提示信息集合。
7. 懸浮條控件一排工具按鈕可自定義，通過結(jié)構(gòu)體參數(shù)設(shè)置，圖標(biāo)可選圖形字體還是自定義圖片。
8. 懸浮條按鈕內(nèi)部實現(xiàn)了錄像切換、抓拍截圖、靜音切換、關(guān)閉視頻等功能，也可以自行在源碼中增加自己對應(yīng)的功能。
9. 懸浮條按鈕對應(yīng)實現(xiàn)了功能的按鈕，有對應(yīng)圖標(biāo)切換處理，比如錄像按鈕按下后會切換到正在錄像中的圖標(biāo)，聲音按鈕切換后變成靜音圖標(biāo)，再次切換還原。
10. 懸浮條按鈕單擊后都用名稱唯一標(biāo)識作為信號發(fā)出，可以自行關(guān)聯(lián)響應(yīng)處理。
11. 懸浮條空白區(qū)域可以顯示提示信息，默認(rèn)顯示當(dāng)前視頻分辨率大小，可以增加幀率、碼流大小等信息。
12. 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點顏色、背景顏色（默認(rèn)透明）、文字顏色（默認(rèn)全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設(shè)置了圖片優(yōu)先取圖片）、是否拷貝圖片、縮放顯示模式（自動調(diào)整、等比縮放、拉伸填充）、視頻顯示模式（句柄、繪制、GPU）、啟用懸浮條、懸浮條尺寸（橫向為高度、縱向為寬度）、懸浮條位置（頂部、底部、左側(cè)、右側(cè)）。

五、相關(guān)代碼

#include "mdkplayer.h"
#include "videohelper.h"MdkPlayer::MdkPlayer(QObject *parent) : QObject(parent)
{//實例化播放對象player = new mdk::Player;//默認(rèn)等比例填充player->setAspectRatio(mdk::KeepAspectRatio);//設(shè)置緩沖大小//player->setBufferRange(0, 5000, true);//渲染回調(diào)觸發(fā)界面更新player->setRenderCallback([this](void *vo) {QObject *render = (QObject *)vo;if (render && render->isWidgetType()) {QMetaObject::invokeMethod(render, "update");}});//播放狀態(tài)變化player->onStateChanged([this](mdk::State state) {emit stateChanged(state);});//媒體狀態(tài)變化player->onMediaStatus([this](mdk::MediaStatus oldValue, mdk::MediaStatus newValue) {emit mediaStatusChanged(newValue);return true;});//各種事件觸發(fā)player->onEvent([this](const mdk::MediaEvent & e) {emit eventChanged(e);return false;});render = NULL;
}MdkPlayer::~MdkPlayer()
{//沒有設(shè)置過渲染窗體釋放的時候會崩潰if (render) {delete player;}
}void MdkPlayer::setMedia(const QString &url)
{player->setMedia(url.toUtf8().constData());//設(shè)置媒體后立即獲取媒體信息/手冊說要按照下面這樣寫VideoType type = VideoHelper::getVideoType(url);if (type == VideoType_FileLocal || type == VideoType_FileWeb) {player->waitFor(mdk::State::Stopped);player->prepare(0, [this](int64_t, bool *) {QMetaObject::invokeMethod(parent(), "readMediaInfo");return true;});}//不做音視頻同步if (type == VideoType_Rtsp) {player->onSync([] {return DBL_MAX;});}
}void MdkPlayer::setFilter(const QString &filter)
{player->setProperty("video.avfilter", filter.toStdString());
}void MdkPlayer::setDecoders(const QStringList &names)
{std::vector<std::string> decoders;foreach (QString name, names) {decoders.push_back(name.toStdString());}player->setDecoders(mdk::MediaType::Video, decoders);
}void MdkPlayer::setProperty(const std::string &key, const std::string &value)
{player->setProperty(key, value);
}void MdkPlayer::play()
{player->set(mdk::State::Playing);
}void MdkPlayer::stop()
{player->set(mdk::State::Stopped);
}void MdkPlayer::pause()
{player->set(mdk::State::Paused);
}void MdkPlayer::next()
{player->set(mdk::State::Playing);
}mdk::State MdkPlayer::state()
{return player->state();
}void MdkPlayer::setLoop(int count)
{player->setLoop(count);
}void MdkPlayer::rotate(int degree, QObject *render)
{player->rotate(degree, render);
}void MdkPlayer::setAspect(float value, QObject *render)
{player->setAspectRatio(value, render);
}void MdkPlayer::setBackgroundColor(float r, float g, float b, float a, QObject *render)
{player->setBackgroundColor(r, g, b, a, render);
}QSize MdkPlayer::getSize(int stream)
{QSize size;std::vector<mdk::VideoStreamInfo> video = player->mediaInfo().video;if (video.size() > stream) {mdk::VideoCodecParameters para = video.at(stream).codec;size = QSize(para.width, para.height);}return size;
}qint64 MdkPlayer::duration()
{return player->mediaInfo().duration;
}qint64 MdkPlayer::position()
{return player->position();
}void MdkPlayer::seek(qint64 position)
{player->seek(position);
}void MdkPlayer::seek(bool backward, int frame)
{mdk::SeekFlag flags = (mdk::SeekFlag::FromNow | mdk::SeekFlag::Frame);if (backward) {player->seek(-frame, flags);} else {player->seek(frame, flags);}
}float MdkPlayer::playbackRate()
{return player->playbackRate();
}void MdkPlayer::setPlaybackRate(float value)
{player->setPlaybackRate(value);
}float MdkPlayer::volume()
{return player->volume();
}void MdkPlayer::setVolume(float value)
{player->setVolume(value);
}bool MdkPlayer::isMute()
{return player->isMute();
}void MdkPlayer::setMute(bool value)
{player->setMute(value);
}void MdkPlayer::snapshot(int rotate, QObject *render)
{mdk::Player::SnapshotRequest sr{};player->snapshot(&sr, [this, rotate](mdk::Player::SnapshotRequest * sr2, double) {QImage image = QImage(sr2->data, sr2->width, sr2->height, Format_RGB);//如果有旋轉(zhuǎn)角度先要旋轉(zhuǎn)VideoHelper::rotateImage(rotate, image);emit imageCaptured(image.copy());return std::string();}, render);
}void MdkPlayer::record(const QString &fileName, const QString &format)
{player->record(fileName.toUtf8().constData(), format.toUtf8().constData());
}void MdkPlayer::readMetaData()
{//標(biāo)題/藝術(shù)家/專輯/專輯封面QString title, artist, album;mdk::MediaInfo mediaInfo = player->mediaInfo();std::unordered_map<std::string, std::string> metadata = mediaInfo.metadata;for (auto i = metadata.begin(); i != metadata.end(); i++) {QString key = QString::fromStdString(i->first);QString value = QString::fromStdString(i->second);if (key == "title") {title = value;} else if (key == "artist") {artist = value;} else if (key == "album") {album = value;}}QString format = mediaInfo.format;emit receiveMetaData(format, title, artist, album);
}void MdkPlayer::readAudioInfo(int index)
{std::vector<mdk::AudioStreamInfo> audios = player->mediaInfo().audio;if (index >= 0 && audios.size() > index) {mdk::AudioStreamInfo audio = audios.at(index);mdk::AudioCodecParameters para = audio.codec;emit receiveAudioInfo(audio.index, para.sample_rate, para.channels, para.profile, para.bit_rate, para.codec);}
}void MdkPlayer::readVideoInfo(int index)
{std::vector<mdk::VideoStreamInfo> videos = player->mediaInfo().video;if (index >= 0 && videos.size() > index) {mdk::VideoStreamInfo video = videos.at(index);mdk::VideoCodecParameters para = video.codec;//取出封面QImage image;if (video.image_size > 0) {image = QImage::fromData(video.image_data, video.image_size);}emit receiveVideoInfo(video.index, para.width, para.height, para.frame_rate, video.rotation, para.codec, image);}
}void MdkPlayer::readTrackInfo(QList<int> &audioTracks, QList<int> &videoTracks)
{mdk::MediaInfo mediaInfo = player->mediaInfo();audioTracks.clear();std::vector<mdk::AudioStreamInfo> audioTrackInfo = mediaInfo.audio;foreach (mdk::AudioStreamInfo info, audioTrackInfo) {audioTracks << info.index;}videoTracks.clear();std::vector<mdk::VideoStreamInfo> videoTrackInfo = mediaInfo.video;foreach (mdk::VideoStreamInfo info, videoTrackInfo) {videoTracks << info.index;}//可能獲取到的索引是 音頻(3, 4, 5) / 視頻(0, 1, 2)//底層設(shè)置節(jié)目流按照 0/1/2 這樣排列/所以需要強(qiáng)制矯正int count = videoTracks.count();audioTracks.clear();videoTracks.clear();for (int i = 0; i < count; ++i) {audioTracks << i;videoTracks << i;}
}void MdkPlayer::setAudioTrack(int track)
{std::set<int> tracks;tracks.insert(track);player->setActiveTracks(mdk::MediaType::Audio, tracks);
}void MdkPlayer::setVideoTrack(int track)
{std::set<int> tracks;tracks.insert(track);player->setActiveTracks(mdk::MediaType::Video, tracks);
}void MdkPlayer::renderVideo(QObject *render)
{player->renderVideo(render);
}void MdkPlayer::setVideoSurfaceSize(int width, int height, QObject *render)
{this->render = render;player->setVideoSurfaceSize(width, height, render);connect(render, SIGNAL(destroyed(QObject *)), this, SLOT(clear(QObject *)), Qt::ConnectionType(Qt::DirectConnection | Qt::UniqueConnection));
}void MdkPlayer::clear(QObject *render)
{player->setVideoSurfaceSize(-1, -1, render);
}