|
目前 AI 技術(shù)的謀智快速發(fā)展已經(jīng)讓很多用戶日常工作離不開 AI,不過現(xiàn)在的基金 AI 多數(shù)都是基于云端運行的,也就是計劃推北京提包夜美女(電話微信181-2989-2716)一二線城市外圍模特伴游預(yù)約、空姐、模特、留學(xué)生、熟女、白領(lǐng)、老師、優(yōu)質(zhì)資源覆蓋全國用戶提交的數(shù)據(jù)有潛在的泄露風(fēng)險。 這個時候關(guān)注隱私的出離謀智基金會站出來了,謀智基金會宣布推出一個名為 Llamafile 的本地新開源計劃,該開源計劃目標(biāo)是個人幫助人們在自己的硬件上運行大型語言模型,不需要專用的私密使用 GPU、CPU 或者 NPU(但有 GPU 的藍(lán)點話可以更好的運行)。 Llamafile 的謀智工作原理是將人工智能聊天機(jī)器人的所有復(fù)雜性壓縮為一個文件,然后該文件可以在 Windows、基金Mac、計劃推北京提包夜美女(電話微信181-2989-2716)一二線城市外圍模特伴游預(yù)約、空姐、模特、留學(xué)生、熟女、白領(lǐng)、老師、優(yōu)質(zhì)資源覆蓋全國Linux、出離OpenBSD、本地FreeBSD、個人NetBSD 上運行,私密使用并且?guī)缀醪恍枰惭b或者配置,也就是即開即用。 
這種 LLM 是完全在本地運行的,不需要以來第三方商業(yè)公司提供的云端算力,數(shù)據(jù)也都是保存在本地的,不會離開用戶的設(shè)備,甚至如果用戶愿意的話,可以將自己的日常對話后的機(jī)器人模型復(fù)制到其他機(jī)器上繼續(xù)使用,這樣不用重新優(yōu)化提示詞。 目前謀智基金會并不是唯一一家要打造本地 AI 的公司,谷歌最近向 Pixel 8 Pro 提供的 Gemini 變種版本 AiCore 實際上就是一種本地 AI,利用本地設(shè)備的算力來執(zhí)行某些操作,不過目前 AiCore 的公開信息還比較少。 謀智基金會相信開源是解決各類隱私問題最有力的解決方案之一,可以通過開源解決隱私、訪問、控制的問題,也就是我們的對話被誰聽到?我們的數(shù)據(jù)會被如何處理?誰能決定 AI 回答或不回答某些問題。 至于 Llamafile 項目,目前謀智基金會已經(jīng)注意到一些比較有潛力的項目,第一個是 Llama.cpp 項目,這個開源項目讓普通的消費級設(shè)備也可以運行 LLM,而且速度并不算慢;第二個是 Cosmopolitan 項目,該項目可以一次編譯程序在各種操作系統(tǒng)和硬件上運行。 當(dāng)然這個項目沒這么快搞定,謀智基金會希望開發(fā)者或者對 LLM 感興趣的用戶一起參與:https://github.com/Mozilla-Ocho/llamafile |