1大模型能用來做什么①ai自然語言編程Vibe Coding可以通過直接對ai輸出自己的想法或靈感實現(xiàn)低代碼甚至零代碼完成開發(fā)真正的想法即代碼。這個后期我還會再講過程中涉及提示詞還有skill一類的非常有趣)②ai對話圖像處理依舊一句話精簡概括所想即所得非常強大很方便。幾乎可以達到以假亂真。③ai智能體操控騰訊會議重新定義了人與機器的協(xié)作邊界直接讓對話機器人具備自主感知規(guī)劃決策與工具調(diào)用能力的數(shù)字行動者?？梢酝ㄟ^微信對話預(yù)定騰訊會議2大模型是什么本質(zhì)對人類智能的模擬? 強??智能?標是制造出真正擁有?智、意識、能理解??存在的機器。? 弱??智能專注于在特定領(lǐng)域表現(xiàn)出智能?為像??樣做得好甚?更好。3機器學習(Machine Learning)機器學習Machine Learning英?縮寫為ML,是??智能的?個?領(lǐng)域其核?不再是?動編寫規(guī)則?是通過數(shù)據(jù)訓(xùn)練算法讓計算機從歷史樣本中?動總結(jié)規(guī)律?以預(yù)測或決策新問題。??智能和機器學習到底是什么關(guān)系呢??智能是?標機器學習是實現(xiàn)該?標的主要?段。當代??智能≈基于機器學習的??智能。本質(zhì)給定輸?和輸出 讓機器??找到那個函數(shù) 。怎么理解這個本質(zhì)呢?如我們打?起步價10元固定成本每公?2元求?下打?20公?多少錢這個公式對我們來說?常簡單就可以求解出來y2x10,這就是費?的計算規(guī)律。那機器學習是什么呢告訴你有下?的數(shù)據(jù)然后需要計算?下X20公?的時候費?是多少設(shè)yaxb然后代?2組數(shù)據(jù)可以求出來a2,b10。然后我們根據(jù)規(guī)律求出來20公?的時候費?是50塊錢。這個求出的ab就是機器學習中的參數(shù)?類輸?給機器的原始素材x就是特征機器學習對?我們??求出來的這個過程是?動化求解不需要我們??代?數(shù)據(jù)去求解這個?動化找參數(shù)的過程就叫模型訓(xùn)練(training)或者學習(learning)?且機器的x和y在現(xiàn)實世界中不全是數(shù)字可以是復(fù)雜的問題圖?語?等。y2x10就是我們訓(xùn)練好的數(shù)學模型。有了模型以后我們根據(jù)X20公?計算費?總的費?為50這個過程就叫做推理(inference)/預(yù)測(Prediction)。實際?作中我們真正的模型往往很難如此簡單舉個例?我們要實現(xiàn)?個簡單的圖像分類?如區(qū)分下圖???是?還是?我們要學習的函數(shù)變成了下?的形式?和?我們很難?簡單的?個參數(shù)來表?就需要?機器學習來完成學習到的參數(shù)往往也是?萬??萬的參數(shù)很難通過簡單的?式來進?解釋。我們參與訓(xùn)練的圖?和標簽往往叫做樣本其中圖?稱為特征Y稱為標簽特征和標簽組成了樣本整體稱為訓(xùn)練數(shù)據(jù).4機器學習分類4.1 按照反饋信號分類:監(jiān)督學習無監(jiān)督學習半監(jiān)督學習(醫(yī)療影像)自監(jiān)督學習(大模型核心預(yù)訓(xùn)練范式)強化學習4.1.1監(jiān)督學習監(jiān)督學習是機器學習和??智能中的?種算法學習訓(xùn)練?式。模型通過標記好的訓(xùn)練數(shù)據(jù)進?學習?標是建?輸?與輸出之間的映射關(guān)系。監(jiān)督學習靠“外部標準答案”??標簽反饋。有對錯直接糾正。4.1.2無監(jiān)督學習?監(jiān)督學習的核?定義可以概括為在完全沒有“標簽”即標準答案的情況下讓算法??從輸?數(shù)據(jù)中發(fā)現(xiàn)隱藏的結(jié)構(gòu)、規(guī)律或模式靠“數(shù)據(jù)內(nèi)在結(jié)構(gòu)”反饋。沒有對錯只找規(guī)律。4.1.3半監(jiān)督學習半監(jiān)督學習利?少量“有標簽”的數(shù)據(jù)帶標準答案和?量“?標簽”的數(shù)據(jù)?答案共同進?訓(xùn)練以此來提升模型的預(yù)測精度。介于兩者之間在我們擁有相對較少的標記數(shù)據(jù)和?量未標記數(shù)據(jù)的情況下半監(jiān)督學習結(jié)合了監(jiān)督學習和?監(jiān)督學習的優(yōu)勢于是在此時可以發(fā)揮很好的作?。在海量數(shù)據(jù)?前?動標記數(shù)據(jù)的成本過于?昂且繁瑣?未標記的數(shù)據(jù)很多、易于獲取且每?都會產(chǎn)??量的數(shù)據(jù)。因此我們可以只標記數(shù)據(jù)集中的?部分?不是標記整個數(shù)據(jù)集然后?半監(jiān)督學習?式來學習。半監(jiān)督做法1.?500張醫(yī)?標注好的??訓(xùn)練?個初始模型。2.讓該模型去預(yù)測10,000張未標注的??。3.挑選模型預(yù)測結(jié)果中置信度極??如99%確定是肺炎的圖?給它們打上“偽標簽”Pseudo-label。4.將這些帶有偽標簽的數(shù)據(jù)加?訓(xùn)練集重新訓(xùn)練模型。4.1.4自監(jiān)督學習?監(jiān)督學習利?數(shù)據(jù)本?的結(jié)構(gòu)來“?動?成”監(jiān)督信號即偽標簽。?監(jiān)督學習?前是AI界的寵?它是?監(jiān)督學習的?種特殊形式但其“學習過程”卻極像監(jiān)督學習。既然??標注Labeling太貴那就讓數(shù)據(jù)“??標注??”。模型通過隱藏數(shù)據(jù)的?部分然后嘗試預(yù)測這部分內(nèi)容。它與半監(jiān)督學習的核?區(qū)別在于半監(jiān)督學習仍依賴少量真實標簽??監(jiān)督學習完全不?標簽。?監(jiān)督學習Self-Supervised Learning,SSL是?種讓機器學習模型“?學成才”的范式。它最?的特點是不需要昂貴的??標注數(shù)據(jù)?是從海量的?標簽原始數(shù)據(jù)中?動“創(chuàng)造”出訓(xùn)練所需的“標簽”或“監(jiān)督信號”** 擴散模型DiffusionModel**的?作過程就是?個?監(jiān)督學習的過程它通過?套?給??的邏輯來摸索世界的規(guī)律。第?步?導(dǎo)?演的“惡作劇”加噪-Forward Process想象你??有?張清晰的《蒙娜麗莎》拼圖。操作你往拼圖上撒了?把沙?噪聲遮住了?點細節(jié)。繼續(xù)你?撒了?把沙?畫?變得模糊了。終點最后你撒了?數(shù)把沙?原來的畫完全看不?了只剩下?堆灰?的沙?。為什么是?監(jiān)督因為在這個過程中“沙?”是你親?撒的。你知道每?時刻加了多少沙?也知道原圖?什么樣。這種“答案就在????”的過程就是?監(jiān)督。第?步苦練“還原術(shù)”去噪-Reverse Process現(xiàn)在你把這堆“沙?”交給模型對它說“我剛才往畫上撒了沙?請你把剛才那?層沙?從畫上‘吹’?還原回前?秒的樣??！? 前置任務(wù)模型的?標不是直接變出?張畫?是預(yù)測并減去那層沙?。? 反復(fù)橫跳模型會不停地對?? 它以為的沙?vs實際上你撒的沙?。? 它還原出的畫vs你??的原圖。學到了什么為了把沙?吹?凈模型必須理解畫作的內(nèi)在規(guī)律。它得知道? “這?有?條弧線沙?下?可能是?個嘴??！? “這?的顏?很暗沙?下?應(yīng)該是頭發(fā)?！? “如果我胡亂吹畫出來的東西就不像‘畫’?像碎紙屑。”第三步?中?有的“超能?”采樣-Sampling當模型練成了“頂級還原術(shù)”后神奇的事情發(fā)?了。即使你給它?堆全新的、完全隨機的沙?純隨機噪聲并對它說“去吧把這堆沙??多余的東西吹掉?！蹦Ｐ蜁{借它在訓(xùn)練中學到的“經(jīng)驗”即圖像的概率分布在虛?中?點點勾勒出線條、?彩和結(jié)構(gòu)。它以為??在“還原”?張不存在的畫結(jié)果卻創(chuàng)造出了?張全新的、寫實的圖像。這就像?個學畫畫的?每天的任務(wù)不是臨摹名畫?是把名畫打碎成粉末再嘗試把粉末粘回去。久?久之即便不看原圖他也能?粉末堆出?幅?師級的作品。4.1.5強化學習如果說監(jiān)督學習是“照答案做題”有標準答案?監(jiān)督學習是“??找規(guī)律”沒有答案那么強化學習就是“在試錯中積累經(jīng)驗追求?期收益最?化”。強化學習通過與環(huán)境交互來學習。它沒有直接的標簽?是通過“獎勵”或“懲罰”來優(yōu)化?為策略?標是獲得最?的?期累積獎勵。它的核?邏輯和我們訓(xùn)練寵物狗?模?樣做對了給塊??獎勵做錯了輕輕呵斥懲罰。久?久之它就知道在什么情況下該做什么事以獲得最多的??。4.2以AlphaGo為例第?階段通過“打譜”進?監(jiān)督學習這是AlphaGo的啟蒙階段。研究?員會輸?海量?類?段位棋?的歷史對局棋譜讓模型像?類初學者?樣“打譜”學習。? 學習?式監(jiān)督學習。? 具體做法模型學習“在某個棋局下?類??通常會下在哪?”。它的?標不是贏棋?是盡可能準確地模仿?類的落?選擇。? 成果經(jīng)過這個階段AlphaGo已經(jīng)擁有了超越絕?多數(shù)?類棋?的棋感學會了合理的下法。第?階段通過“左右互搏”進?強化學習這是AlphaGo超越?類、實現(xiàn)進化的核?階段。它的學習?式從“模仿?類”轉(zhuǎn)變?yōu)椤?我探索”。? 學習?式強化學習。? 具體做法a. ?我對弈讓第?階段訓(xùn)練出的多個不同版本的策略?絡(luò)相互對弈數(shù)?萬甚?數(shù)百萬局。b. 獲得獎勵對弈的最終結(jié)果贏或輸就是唯?的“獎勵信號”。贏了說明這局棋的策略是好的輸了則說明需要改進。c. 優(yōu)化策略模型的?標是最?化贏棋的概率。它會不斷調(diào)整??的下棋策略淘汰那些導(dǎo)致失敗的策略強化那些能帶來勝利的策略。? 成果通過這種“左右互搏”AlphaGo不再局限于?類棋譜?是??創(chuàng)造出了許多?類從未?過的、極具創(chuàng)造?的新下法?如那招讓所有棋?震驚的“第37?”。這標志它真正超越?類知識的邊界。第三階段AlphaGo Zero擺脫?類偏?值得?提的是DeepMind后來發(fā)布的 AlphaGo Zero 版本進?步印證了強化學習的強?。? 徹底擺脫?類AlphaGo Zero完全摒棄了第?階段的監(jiān)督學習它不再需要任何?類棋譜。? 真正的“從零開始”它只被告訴圍棋的基本規(guī)則然后就開始和“??”下棋通過純粹的強化學習在短短40天內(nèi)就成為了史上最強的圍棋AI并以1000的戰(zhàn)績完勝擊敗李世?的舊版AlphaGo各個類別的反饋信號? 監(jiān)督學習信號來???標注? ?監(jiān)督學習信號來?數(shù)據(jù)本?的內(nèi)在結(jié)構(gòu)? ?監(jiān)督學習信號由數(shù)據(jù)?動構(gòu)造? 強化學習信號來?環(huán)境給出的獎勵延遲、數(shù)值型4.3按照機器學習的任務(wù)分類:分類回歸聚類序列預(yù)測深度學習4.3.1分類分類是?種監(jiān)督學習任務(wù)旨在根據(jù)輸?數(shù)據(jù)的特征將其劃分到預(yù)先定義好的、離散的類別標簽中。機器學習可以通過對已知類別的數(shù)據(jù)進?學習從?對未知類別的數(shù)據(jù)進?分類。?如在垃圾郵件識別中機器學習算法可以通過學習已知的垃圾郵件和?垃圾郵件來判斷?封新收到的郵件是否是垃圾郵件。分類問題的常?算法有K近鄰算法、邏輯回歸、樸素?葉斯、決策樹、隨機森林、?持向量機SVM算法等。(高級的算法可以先不用具體了解,理解大體意思即可)舉個例?假設(shè)你剛?職?家公司領(lǐng)導(dǎo)給你?個任務(wù)把郵件分類成“正常郵件”和“垃圾郵件”。領(lǐng)導(dǎo)扔給你5000封已經(jīng)分好類的歷史郵件訓(xùn)練數(shù)據(jù)讓你??看??總結(jié)規(guī)律。你開始認真翻看垃圾郵件的常?套路? 標題含“免費”、“中獎”、“?即領(lǐng)取”?? 正?頻繁出現(xiàn)“點擊鏈接”、“轉(zhuǎn)賬”、“賬戶異常”? 發(fā)件?是?串亂碼郵箱?如 sdf23xx.com正常郵件的常?特征? 發(fā)件?是熟悉的同事、客戶? 內(nèi)容涉及?作安排、項?進度? 沒有誘導(dǎo)點擊的夸張話術(shù)你看完5000封郵件后腦??已經(jīng)形成了?套判斷規(guī)則模型。第?步分類推理階段第?天早上你打開收件箱看到?封從來沒有?過的新郵件發(fā)件? serviceunknown.com標題【緊急】您的賬?存在異常請?即點擊鏈接驗證你?腦迅速掃描? ?發(fā)件?陌?? ?標題含“緊急”、“?即”? ?誘導(dǎo)點擊鏈接你果斷判斷這是垃圾郵件然后?鍵拖進垃圾箱。恭喜你成功完成了?次分類推理。4.3.2回歸回歸是?種監(jiān)督學習任務(wù)旨在建??個數(shù)學模型來擬合輸?特征與連續(xù)數(shù)值型輸出之間的映射關(guān)系。機器學習可以通過對已知的數(shù)據(jù)進?學習從?對新的數(shù)據(jù)進?預(yù)測。?如在股票市場中機器學習算法可以通過學習歷史股票價格數(shù)據(jù)來預(yù)測未來的股票價格?；貧w問題的常?算法有線性回歸等。4.3.3聚類聚類是?種?監(jiān)督學習任務(wù)旨在在沒有預(yù)先給定類別標簽的情況下根據(jù)數(shù)據(jù)樣本之間的內(nèi)在相似性?動將其劃分為若?個不相交的Group。機器學習可以將數(shù)據(jù)按照?定的特征進?聚類從?將相似的數(shù)據(jù)歸為?類。?如在客?分析中機器學習算法可以通過學習客?的購買?為和喜好將相似的客?歸為?類從?對不同的客?群體進?針對性的營銷。聚類算法屬于?監(jiān)督學習常?的算法有K均值算法K-means、層次聚類、DBSCAN、?斯混合模型GMM等。(高級的算法可以先不用具體了解,理解大體意思即可)?如我們常?的?樂APP第?步機器看什么數(shù)據(jù)特征App后臺有成千上萬?歌每?歌都被提取成?組數(shù)字特征? 節(jié)拍速度快/慢? 樂器種類有沒有吉他、鋼琴、電?合成器? ?聲特點男聲/?聲/純?樂? 能量值激昂/舒緩? 情緒值歡快/悲傷于是每?歌都變成了?個“坐標點”?如? 歌曲A速度120能量0.8?聲男情緒歡快? 歌曲B速度60能量0.2純?樂情緒悲傷? 歌曲C速度130能量0.9?聲?情緒歡快第?步機器?動“抱團”聚類機器把所有歌曲按照這些特征“距離遠近”?動分成若?堆?如分成了4堆機器內(nèi)部標簽?類后來賦予的名字歌曲特征第1堆“燃爆運動”速度快、能量?、?點重第2堆“深夜emo”速度慢、鋼琴為主、歌詞傷感第3堆“學習專注”純?樂、?歌詞、節(jié)奏平穩(wěn)第4堆“輕松愉快”速度快、吉他為主、?聲輕快第三步把你“塞”進某?堆機器再看你過去?周的聽歌記錄你單曲循環(huán)了20遍《起?了》還聽了5?類似的歌。機器發(fā)現(xiàn)這些歌全部屬于“深夜emo”那?堆。于是它得出結(jié)論“這個???概率屬于‘深夜emo’群體?！钡谒牟浇o你推薦機器從“深夜emo”那?堆?挑出你還沒聽過的其他歌曲塞進你明天的“每?推薦”?。你第?天打開App發(fā)現(xiàn)推薦的歌??都像量?定做——這就是聚類的魔?。4.3.4關(guān)聯(lián)規(guī)則關(guān)聯(lián)規(guī)則是?種?監(jiān)督學習任務(wù)旨在從?規(guī)模數(shù)據(jù)集中發(fā)現(xiàn)變量或項之間有趣的隱含依賴關(guān)系或共?模式通常表?為“X→Y”的蘊含式。機器學習可以從?規(guī)模數(shù)據(jù)中發(fā)現(xiàn)變量之間的有趣關(guān)聯(lián)或頻繁模式。例如在超市購物籃分析中通過分析顧客購買記錄可以找出“購買尿不濕的顧客往往也會購買啤酒”這樣的關(guān)聯(lián)規(guī)則從?優(yōu)化商品陳列和促銷策略。常?的算法有Apriori算法、FP-Growth算法等。啤酒尿布是數(shù)據(jù)挖掘與商業(yè)分析領(lǐng)域最著名的經(jīng)典案例之?講述了超市通過數(shù)據(jù)分析發(fā)現(xiàn)啤酒與尿布存在關(guān)聯(lián)銷售機會的故事。盡管其真實性存在爭議被視為“商業(yè)寓?”但其背后的關(guān)聯(lián)規(guī)則挖掘理論對零售業(yè)營銷產(chǎn)?了深遠影響。4.3.5序列預(yù)測序列預(yù)測簡單來說就是利?過去?串有順序的數(shù)據(jù)來推斷未來接下來會發(fā)?什么。它的核?在于數(shù)據(jù)點之間存在順序依賴性?獨?同分布。機器學習可以利?歷史序列數(shù)據(jù)來預(yù)測未來的元素或趨勢。?如在?然語?處理中模型可以根據(jù)已?成的?字預(yù)測下?個單詞從?實現(xiàn)?本?動補全或機器翻譯。序列預(yù)測的常?算法有循環(huán)神經(jīng)?絡(luò)RNN、?短期記憶?絡(luò)LSTM、?控循環(huán)單元GRU、Transformer等。以中英?翻譯為例核?的?成過程本質(zhì)上是由?系列連續(xù)的序列預(yù)測構(gòu)成。? 輸?序列源語? “我 愛 學習”? ?標序列?標語? “I love learning”在翻譯時模型并不是瞬間變出整句英??是?個詞?個詞地“預(yù)測”出來的。