Google Gemma AI 安裝教學,如何在電腦本地運行?

想知道 Google Gemma AI 安裝怎麼操作嗎?現在有很多 LLMs 大型語言模型選擇,很多人一定都會想玩玩看,尤其是今年二月由 Google 推出的 Gemma 模型,官方宣稱各方面都優於 Llama 和 Mistral,想玩玩看的人,這篇就來教你怎麼安裝,非常簡單。

重點摘要

  • Gemma 有 2B 和 7B 兩種版本,數字越大效能和各方面表現越好
  • 支援中文聊天
  • 由國科會推出的 TAIDE 模型也很推薦試試

你可能感興趣

目錄

Google Gemma AI 特色說明

Gemma 是 Google 推出的輕量化開源模型,跟 Gemini 不一樣,Gemma 是完全免費讓大家用。由 Google DeepMind 和 Google 其他團隊共同開發,使用跟 Gemini 模型相同的研究數據和技術為基礎。

Gemma 有二個版本,Gemma 2B 和 Gemma 7B,下圖是 Google 提供的官方測試數據,可以看到,以 Gemma 7B 來說,幾乎各方面都勝過 LLaMA-2 7B 和 Mistral 7B,平均分數還是所有當中最高,連 LLaMA-2 13B 都超越:
Gemma Google 測試數據

補充:2B 和 7B 指的是參數數量,2B 有 2 億個,7B 則是 7 億個,因此 7B 的效能和表現,一定比 2B 強,但相對模型檔也大很多,同時也比較要求電腦硬體。

Google Gemma AI 安裝教學

想在電腦裡安裝 Gemma 並使用,方法很簡單,只要透過 LLM 大型語言模型的聊天介面軟體就可以,我推薦這二個:「LM Studio」和「GPT4All」,前者適合進階用戶(功能更全面),後者則是適合剛入門的用戶。

皆支援多平台,Windows、Mac 都有專屬應用程式或安裝檔。

1. 透過 LM Studio 安裝 Gemma 模型

  • 前往 LM Studio 下載安裝
  • 打開後,於搜尋框中輸入 Gemma
  • 接著就會列出 Gemma 模型清單,看你要下載 2B 還是 7B
    LM Studio Gemma AI 安裝操作
  • 下載好後,打開 AI Chat 選單,並於上方選擇 Gemma
  • 模型讀取好後,就能開始聊天了

電腦硬體較差的人,建議安裝 Gemma 2B 就好,特別是沒 NVIDIA 顯示卡的人,這樣才不會發生資源不夠當機的情況。

2. 透過 GPT4All 安裝 Gemma 模型

  • 前往 GPT4All 官網下載安裝檔
  • 安裝好後打開,點擊 Download Model 功能
  • 搜尋 Gemma 關鍵字
  • 顯示結果後,看你要下載 2B 還是 7B
    G:PT4All 安裝 Gemma
  • 下載完成打開頂部的 Choose a model 選單,選擇 Gemma 模型
  • 讀取好後,可以開始聊天

使用上有什麼限制嗎

沒有,無論是模型還是軟體,都是完全免費使用,因此你要用多久、聊天長的時間都沒問題。

Gemma 支援中文,所以可以用中文跟它聊天,不過英文部份還是比較好,因此建議能用英文就用英文。

有其他模型推薦嗎

對於中文用戶來說,我還蠻推薦一個由國科會釋出的開源模型「TAIDE」,基於 LLaMA-2 模型,特別加強繁體中文輸入和輸出,簡單來說就是有多使用台灣的資料進行訓練,像是中央社、ETtoday 新聞雲、立法院公報、光華雜誌等等,更詳細介紹可以閱讀 Hugging Face 的 TAIDE 說明頁面。

以下是目前主流的 LLMs 大型語言模型:

Mistral 系列

  • Mistral 7B
  • Dolphin Mistral 7B
  • Mixtral 8x7B
  • Mediatek Breeze 7B:繁體中文模型,基於Mistral 7B 開發
  • Chinese Mixtral Instruct:簡體中文模型,基於 Mistral 8x7B 開發

LLaMA 系列

  • LLaMA 7B
  • LLaMA 2 7B
  • LLaMA 2 13B
  • LLaMA 2 70B
  • WizardLM

如果覺得這篇對你有幫助,歡迎贊助一杯咖啡支持我的寫文動力

總結

以上就是在電腦本地安裝 Gemma 模型的方法,除了這一個模型,如果電腦容量運許,其實可以一次多安裝幾個模型,這樣你就能輕鬆互相比較,看哪一個最讓你滿意。

Picture of Rocky

Rocky

曾任職於各大科技網站編輯,目前也是電腦王阿達資深編輯,接觸科技已經長達 10 年,熱愛將一些新科技、知識、和經驗分享給所有人。目前居住在日本,老婆是日本人,偶爾也會分享一些日本生活內容。

全部文章

發佈留言