從生成式到代理型AI，回顧年度AI的進展

編者按：本文為「解碼AI」系列文章，以深入淺出的方式解密 AI，為 GeForce RTX PC 和 NVIDIA RTX 工作站使用者介紹新硬體、軟體、工具與加速功能。

去年推出的「解碼AI」系列文章，將人工智慧的所有內容拆分為簡化錯綜複雜的大型語言模型 (LLM)，以及彰顯 RTX AI 電腦與工作站的強大功能。

本綜述回顧人工智慧的最新進展，重點介紹這項技術如何改變人們線上寫作、遊戲、學習與彼此聯繫的方式。

NVIDIA GeForce RTX GPU 讓您在筆記型電腦、桌上型電腦與工作站上享受這些體驗。這些產品搭載專用的AITensor 核心，每秒可提供超過 1,300 兆次運算 (TOPS) 的強大處理能力，無論是遊戲、創作、日常生產力等各種應用，都能有無與倫比的尖端效能。對於工作站，NVIDIA RTX GPU 可提供超過 1,400 TOPS，將AI加速與效率提升至全新境界。

利用AI聊天機器人釋放生產力與創造力

今年早些時候，「解碼AI」探索了 LLM 是什麼、為什麼重要，以及如何使用。

對於許多人而言，ChatGPT 等工具是他們第一次接觸AI。 LLM 驅動的聊天機器人，將運算從基本的規則互動轉變為動態對話。它們可以提出度假想法、撰寫客服電子郵件、創作原創詩歌，甚至可以為使用者編寫程式。

ChatRTX 於 3 月推出，是一款示範應用程式，可讓使用者以自己的內容 (例如文件、筆記與影像) 自訂 GPT LLM。

ChatRTX 提供檢索增強生成功能 (RAG)、NVIDIA TensorRT-LLM 與 RTX 加速等功能，能讓使用者快速搜尋自己的資料並提出問題。由於應用程式在 RTX 電腦或工作站本機執行，因此結果既快速又私密。

NVIDIA 為AI愛好者與開發人員提供最豐富的基礎模型，包括 Gemma 2、Mistral 與 Llama-3。這些模型可在 NVIDIA GeForce 與 RTX GPU 上本機執行，無須仰賴雲端服務，即可獲得快速且安全的效能。

立即下載 ChatRTX。

介紹眾多RTX 加速的合作夥伴應用程式

AI正被納入愈來愈多的應用程式與使用案例，包括遊戲、內容創作應用程式、軟體開發與生產力工具。

這種擴展得益於廣泛的 RTX 加速開發者和社群工具、軟體開發套件、模型與框架，讓您在熱門應用程式中以本地方式執行模型變得前所未有的輕鬆。

「解碼AI」十月刊登的焦點顯示，Brave Browser 的 Leo AI 採用 NVIDIA RTX GPU 與開放原始碼 Ollama 平台，讓使用者直接在 RTX 電腦或工作站上執行 Llama 3 等本地 LLM。

這種本地化設定提供快速且回應迅速的AI效能，同時確保使用者資料私密，無需依賴雲端。 NVIDIA 為 Ollama 等工具的最佳化，可直接在 Brave 瀏覽器內完成為文章撰寫摘要、回答問題與取得見解等工作，加速效能。使用者可在本機和雲端模式之間切換，帶來靈活性以及對AI體驗的掌控。

如需有關如何透過 Ollama 新增本機 LLM 支援的簡要說明，請閲讀 Brave 部落格。在設定為指向 Ollama 之後，Leo AI 就會使用本機託管的 LLM 來處理提示與詢問。

代理型AI — 解決複雜的問題

代理型 AI 是AI的下一個開創領域，能夠運用精湛的推理與迭代規劃，自主解決複雜的多步驟問題。

「解碼AI」探索AI社群如何嘗試這項技術，創造更聰明、更強大的AI系統。

AnythingLLM 等合作夥伴應用程式展示AI如何超越簡單問答，提升生產力與創造力。使用者可利用應用程式部署內建代理，處理搜尋網頁或安排會議等任務。

使用者在 AnythingLLM 中調用AI代理以完成 Web 搜尋查詢的範例。

AnythingLLM 讓使用者透過直覺式的介面與文件互動、與AI代理自動執行複雜的任務，並在本機執行進階的 LLM。它利用 RTX GPU 的強大功能，在單一的本機桌面應用程式內，提供更快、更智慧、更靈敏的AI工作流程。該應用程式也能離線運作，速度快且私密，能使用雲端解決方案通常無法存取的本機資料和工具。