2024-04-09 來源：中安網(wǎng) 作者：安小豆
從一年前爆火的ChatGPT，到前段時間文生視頻大模型Sora，AI大模型的發(fā)展動態(tài)、議題仍不斷吸引著大眾關(guān)注和討論。
云天勵飛董事長兼CEO陳寧曾表示：“未來3年，全球80%的企業(yè)都將使用大模型。
有報告顯示，截至2023年10月，國內(nèi)公開的AI大模型數(shù)量已經(jīng)達(dá)到238個，過去5年世界上參數(shù)量超過百億的大模型大約有45個，其中9個出現(xiàn)在中國。
中國AI大模型發(fā)展勢頭正猛，但對于安防中小微企業(yè)而言，AI大模型能做什么？
安防中小微企業(yè)的痛點(diǎn) 對于大多承接項(xiàng)目規(guī)模在100萬以內(nèi)的的SMB安防企業(yè)而言，其人員配置一般以銷售為主，技術(shù)為輔，且業(yè)務(wù)多聚焦于零售、餐飲、工廠、倉儲、農(nóng)林牧漁等細(xì)分場景，往往中小微企業(yè)很難具備整體AI解決方案輸出能力。 這也使得長尾市場下，相關(guān)攝像頭設(shè)備雖已大范圍鋪開，但AI技術(shù)的落地滲透率并不高。 究其原因，主要有兩大痛點(diǎn)： 服務(wù)成本高 中小微企業(yè)所承接的安防項(xiàng)目規(guī)模相對較小，扣除掉工人、設(shè)備采購等費(fèi)用支出后，項(xiàng)目營收小。無法進(jìn)行規(guī)模化效應(yīng)降低邊際成本，服務(wù)成本居高不下。 而中小微企業(yè)本身預(yù)算有限，這也意味著在整個項(xiàng)目中要考慮到多個需求并且做出權(quán)衡，在原有基礎(chǔ)上升級AI變得有門檻。 長尾需求難滿足 對于目前更多中小微企業(yè)而言，其更多的是在“搬箱子”，即上游設(shè)備廠家有什么就賣什么，安防+AI經(jīng)過近幾年的發(fā)展，也在落地上遇到了“能實(shí)現(xiàn)的客戶需求太少”“新需求的開發(fā)、交付速度慢”“生成算法精度差”“定制成本太高”等問題。 但不可否認(rèn)，中國SMB安防市場規(guī)模龐大，這不僅僅是一個設(shè)備產(chǎn)品市場，更是一個工程市場。因其整體數(shù)量巨大，范圍極廣，規(guī)模累積效應(yīng)也較大。 這也意味著，哪家企業(yè)能更好滿足中小微企業(yè)更多需求，幫助其解決更多痛點(diǎn)，哪家企業(yè)便能破局而出。 僅千元級就能用上大模型 “大模型一次訓(xùn)練成本在千萬級，主流的訓(xùn)推一體機(jī)價格普遍在百萬元，絕大多數(shù)企業(yè)都無法承擔(dān)這樣高昂的成本。” 云天勵飛董事長兼CEO陳寧坦言道。 對于怎么解決讓AI大模型平民化這個難題，在歷經(jīng)各種推翻和演練后，云天勵飛推出了“深目”AI模盒。
▲深目AI模盒與常規(guī)推理盒子的對比
在“算法芯片化”的核心能力下，云天勵飛基于自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”的深度融合，做到了將大模型塞進(jìn)一個僅憑單手便可輕松托起的千元級小盒子中。
“深目”AI模盒具備算法邊緣側(cè)在線學(xué)習(xí)能力，可實(shí)現(xiàn)“3個90%”——算法場景覆蓋超過90%、算法精度超過90%，使用成本降低90%。
也就是說，安防人都能夠根據(jù)自身場景需求，利用“深目”AI模盒，就可擁有自己“專屬”的大模型，訓(xùn)練出實(shí)戰(zhàn)應(yīng)用的算法，。
如今，“深目”AI模盒已適配并可承載10億級SAM、百億級Llama2等大模型運(yùn)算，可廣泛應(yīng)用于AIoT邊緣視頻、移動機(jī)器人等場景。
另外，關(guān)于“盒子”里的大模型能力，其來源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書”。
據(jù)了解，云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權(quán)威測試中多次獲得第一，并于去年正式通過中央網(wǎng)信辦備案。
云天天書1.0版本于2023年初正式推出，至今已完成3個版本的迭代，預(yù)計(jì)今年6月將迭代4.0 V版本。
“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品，更是把云天勵飛大模型通過算法芯片化能力平臺“硬件化”的一次重要嘗試。
作為云天勵飛二次創(chuàng)業(yè)的首款產(chǎn)品，深目AI模盒將于6月30日正式發(fā)售且面向所有客戶統(tǒng)一發(fā)貨。
少/無數(shù)據(jù)場景也能生成算法 面對新產(chǎn)品，用戶除了關(guān)注性價比外，還需要關(guān)注產(chǎn)品是否“好用”的問題。 云天勵飛副總裁羅憶介紹，“深目”AI模盒能實(shí)現(xiàn)秒速訓(xùn)練場景算法。 在“深目”AI模盒的算法訓(xùn)練平臺上，有大量與生態(tài)合作伙伴共同打造的算法商城，能夠提供覆蓋14個大類、100+個小類、千余種算法。 用戶可以直接調(diào)用預(yù)訓(xùn)練算法，并上傳自身場景圖片完成算法的微調(diào)和升級，快速訓(xùn)練出高精度算法。 在演示中，以店外經(jīng)營為例，當(dāng)用戶需要訓(xùn)練識別算法時，可以直接使用平臺現(xiàn)成的算法對目標(biāo)進(jìn)行識別。用戶只需要對識別結(jié)果標(biāo)記“正確”和“誤報”，算法精度就能通過自主學(xué)習(xí)快速提升。 那數(shù)據(jù)幾乎空白的場景，如天災(zāi)人禍等極端場景，面對這樣“敏感數(shù)據(jù)”“無數(shù)據(jù)”的情況，用戶該如何訓(xùn)練算法？
云天勵飛給出的答案是——使用AI合成數(shù)據(jù)來訓(xùn)練算法。
據(jù)介紹，以加油站場景的吸煙識別為例，“深目”AI模盒能夠利用大模型能力，以加油站為背景，生成在該環(huán)境抽煙行為的人物，并將數(shù)據(jù)用于算法訓(xùn)練中，填補(bǔ)訓(xùn)練數(shù)據(jù)的空白。
“在我們AI合成數(shù)據(jù)的過程中，我們也會基于已有的一些真實(shí)數(shù)據(jù)并引入3D引擎去精準(zhǔn)微調(diào)、預(yù)訓(xùn)練我們的大模型，讓生成的效果更加貼近真實(shí)的場景?！痹铺靹铒w董事長兼CEO陳寧解釋道。
十年磨一劍，出鞘必鋒芒。2014年，云天勵飛推出基于CV小模型的“深目”1.0，為“AI+公共安全”市場開啟了新紀(jì)元；2024年，云天勵飛選擇二次創(chuàng)業(yè)，推出了基于自研芯片和大模型技術(shù)的“深目”AI模盒。
“深目”AI模盒的面世也充分印證了AI商業(yè)化須從方案化到運(yùn)營化再到產(chǎn)品化的發(fā)展路徑，未來，我們期待云天勵飛能傳來更多AI大模型在安防落地的好消息。
