印尼的科技領導者與 NVIDIA 及其合作夥伴,發起了一項計劃,為該國超過 2.77 億講印尼語的人口帶來主權人工智慧(AI)。
此次合作以廣泛的公私夥伴關係為基礎,反映了印尼國家的「gotong royong」概念,該詞描述了互助和社區合作的精神。
NVIDIA 創辦人暨執行長黃仁勳與印尼國有企業部長 Erick Thohir、Indosat Ooredoo Hutchison (IOH)總裁暨執行長 Vikram Sinha、GoTo 執行長 Patrick Walujo 以及其他領導人在雅加達一起慶祝 Sahabat-AI 的推出。
Sahabat-AI 是一套開源的印尼大型語言模型(LLM),供當地產業、政府機構、大學和研究中心使用,以開發生成式 AI應用。這些模型以 NVIDIA NeMo 和 NVIDIA NIM 微服務構建,並於今日的印尼AI日活動上正式發佈。該活動聚焦於促進AI主權,推動印尼的AI 驅動數位獨立。
Sahabat-AI 模型由印尼人為印尼人打造,能理解當地語境,並支持人們使用印尼語和各種地方語言開發生成式 AI 服務與應用。這些模型構成了一個協作的基礎,透過本地開發的開源大型語言模型生態系來賦能印尼。
黃仁勳表示:「人工智慧將使科技民主化,是一個絕佳的均衡器。這個技術複雜,但帶來的效益不複雜。」
Vikram Sinha 表示:「Sahabat-AI 不僅是一項技術成就,更體現了印尼對數位主權與包容並存的未來願景。透過創建一個講我們語言、反映我們文化的 AI 模型,我們正在賦予每位印尼人利用先進技術的潛力。這項計畫是為我們多元社會將 AI 民主化以做為促進成長、創新和賦權的工具的重要一步。」
為了加速這項計畫,印尼最大的電信和網際網路公司之一 IOH 於今年推出了「GPU Merdeka by Lintasarta」,這是一個 NVIDIA 加速的主權 AI 雲端服務。GPU Merdeka 雲端服務運行於BDx 印尼 AI 資料中心,並使用可再生能源供電。
在 NVIDIA 雲端夥伴(Cloud Partner)計畫的支持下,IOH 子公司 Lintasarta 在不到三個月內建成了這個高效能 AI 雲端,這一壯舉若無 NVIDIA 的技術基礎設施將耗費更長時間。該 AI 雲端現正推動能源、金融服務、醫療保健等各行各業的轉型。
NVIDIA 雲端夥伴(NCP)計畫為 Lintasarta 提供了 NVIDIA 參考架構做為構建高效能、可擴展且安全的資料中心的藍圖。
該計畫還提供技術和市場推廣支持,讓 Lintasarta 可使用最新的 NVIDIA AI 軟體和加速運算平台,並有機會與 NVIDIA 廣泛的產業夥伴生態系合作。這些合作夥伴包括全球系統整合商如埃森哲以及軟體公司如 GoTo 和 Hippocratic AI,他們正與 IOH 一同推動這家電信公司主權 AI 發展計畫。
與埃森哲合作開發產業專屬應用
IOH 與領先的專業服務公司埃森哲合作,基於其全新 AI 雲端、Sahabat-AI 和 NVIDIA AI Enterprise軟體平台,開發針對特定產業的應用。
在印尼 AI 日活動期間,NVIDIA 執行長黃仁勳與埃森哲執行長Julie Sweet進行了一場爐邊對談,討論兩家公司如何在印尼支持企業和產業的 AI 發展。
此合作利用埃森哲的 AI Refinery平台,協助印尼企業為金融服務、能源及其他產業打造量身定制的 AI 解決方案,同時提供主權資料治理。
IOH 與埃森哲及 NVIDIA 技術的合作最初聚焦於金融服務領域,提供預建的企業解決方案,幫助印尼銀行更快速地運用 AI。
這些解決方案採用模組化架構,可滿足客戶在不同 AI 發展階段的需求,並協助提升盈利能力、運營效率及可持續成長。
建立印尼語大型語言模型與聊天機器人服務
Sahabat-AI 大型語言模型與位於印度的全球系統整合商Tech Mahindra合作建構,支援印尼各種 AI 服務。
例如,Sahabat-AI 讓 IOH 的 AI 聊天機器人能以印尼語回答有關市民和居民服務的問題。使用者可以查詢更新國民身分證的流程、稅率、付款程序、扣除額等資訊。
該聊天機器人整合在 IOH 正在開發的更廣泛市民服務平台中,作為印尼政府主權 AI 計畫的一部分。
Indosat 使用 NVIDIA NeMo 平台開發了 Sahabat-AI,以建立客製化的大型語言模型。該團隊微調了 Llama 3 8B 模型的一個版本,透過用於與使用者進行有效溝通的多元資料集,為印尼文進行客製化。
為進一步最佳化效能,Sahabat-AI 使用 NVIDIA NIM 微服務,相較於標準實作展示了高達 2.5 倍的吞吐量,這一處理效率的提升可實現更快速的回應,提供更優質的使用者體驗。
此外,Sahabat-AI 還利用 NVIDIA NeMo Guardrails 開源軟體進行對話管理,確保基於大型語言模型的聊天機器人的準確性、適當性和安全性。
未來還計劃開發更多基於 Sahabat-AI 的服務功能,包括 AI 驅動的醫療保健服務和其他本地應用。
利用 Hippocratic AI 改善印尼醫療保健
其中一個率先使用 Sahabat-AI 的企業是醫療保健 AI 公司 Hippocratic AI,該公司正利用這些模型、NVIDIA AI 平台和 IOH 的主權 AI 雲端來開發數位代理,這些代理能夠進行類似人類的對話,展現同理心,並與印尼的患者建立良好融洽的關係和信任。
Hippocratic AI 採用了創新的萬億參數星座架構,將專門的醫療保健大型語言模型代理整合在一起,以提供安全、準確的數位代理實施。
這些數位 AI 代理透過分擔耗時的工作能顯著提高員工生產力,讓護士和醫療專業人員能夠專注於更關鍵的任務,從而提升醫療可及性和服務品質。
IOH 的主權 AI 雲端使 Hippocratic AI 能夠將患者資料於本地儲存並保持安全,同時確保其大型語言模型極低延遲的 AI 推論。
與 GoTo 攜手提升隨選服務與金融服務的簡便性與可及性
GoTo 提供的技術基礎設施和解決方案幫助使用者在數位經濟中蓬勃發展,包括涵蓋運輸、食品、雜貨和物流配送、金融服務和電子商務等隨選服務應用。
該公司營運著印尼其中一個領先的隨選運輸服務,以及該國一個領先的支付應用,正採用並增強全新的 Sahabat-AI 模型,將其與 AI 語音助理 Dira 整合。
Dira 是一款語音和生成式 AI 驅動的數位助理,幫助客戶預訂搭車、訂購食品配送、轉帳、繳費等多項服務。
利用 Sahabat-AI,Dira 預計將提供應用程式使用者更具本地化和文化相關性的互動。
推動 Lintasarta 內部的永發展,作為 IOH 的 AI 工廠
從根本上說,Lintasarta 的 AI 雲端是一個 AI 工廠,也就是一個下一代資料中心,託管著先進的全堆疊加速運算平台,專為處理最具運算密集型的任務而設。這將使區域政府、企業和新創公司能夠構建、客製化並部署符合當地語言和習俗的生成式 AI 應用。
展望未來,Lintasarta 計畫以最先進的 NVIDIA 技術擴展其 AI 工廠。該基礎設施已具備「綠色」設計,並由可再生能源和可持續技術提供動力。Lintasarta 致力於透過整合的、安全的和可持續的技術,為印尼的數位生態系統增值,這與「金色印尼 2045(Golden Indonesia 2045)」願景相符。
除了印尼,NVIDIA NIM 微服務還在印度、日本、台灣以及其他許多國家和地區支持本地語言的主權 AI 模型。
NVIDIA NIM 微服務、NeMo 和 NeMo Guardrails 作為 NVIDIA AI Enterprise 軟體平台的一部分提供。
了解更多關於NVIDIA驅動、用於電信產業的主權AI工廠。
請參閱軟體產品資訊的通知。