利用Ollama建立本地的翻譯API

 最近在上一門線上課程，該課程有提供英文字幕檔，所以我就寫一個簡單的Python程式將該文字檔利用 Google Translate API 翻譯成中文。但是因為在下是免費黨，希望在自己的電腦就能提供還可以的翻譯，不要把Google 的免費額度用光，非必要的翻譯使用本地LLM達成。

首先，得安裝 Ollama，在 mac 上只要利用 brew install ollama 就好。

接著 先執行 ollama serve，這樣會讓 console卡住，再開一個console 執行 ollama run llama3.1:latest，若沒有下載應該會自動下載，這樣就可以開始。

在 Python程式裡使用 REST 呼叫 Web API

import requests

def translate_text(text, target_language):
    url = "http://localhost:11434/api/generate"
    headers = {"Content-Type": "application/json"}
    data = {

        "model": "llama3.1",  # 您的模型名稱 
        "prompt": f"以下文字翻譯成 {target_language}: {text}",
        "stream": False,
    }
    # 發送 POST 請求以獲取翻譯
    response = requests.post(url, headers=headers, json=data)
    # 輸出生成的結果
    translate_text = response.json()["response"]
    return translate_text
    

這樣就可以輕鬆的使用 

    chinese_string = translate_text("Where there is a will, there is a way","zh-TW")
      

就會得到： 「有志者事竟成 」之類的答案

有時候很奇怪，品質完全無法和 Google相比，但我只要堪用就好

----------------------------------------------------------------------

另一個呼叫 Ollama 的方式，可以安裝package：  pip install ollama

      def translate_text(text, target_language):
    response = ollama.chat(model='llama3.1', messages=[
    {
        'role': 'user',
        'content': f"以下文字翻譯成 {target_language}: {text}"
    },
    ])
    result = response['message']['content']
    return result