Python と JavaScript ライブラリ · Ollama ブログ

Ollama Python および JavaScript ライブラリの初期バージョンが利用可能になりました。

どちらのライブラリも、数行のコードで新規および既存のアプリを Ollama と統合し、Ollama REST API の機能と操作感を共有することができます。

はじめる

_パイソン

pip install ollama

import ollama
response = ollama.chat(model="llama2", messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response['message']['content'])

_JavaScript

npm install ollama

import ollama from 'ollama'

const response = await ollama.chat({
  model: 'llama2',
  messages: [{ role: 'user', content: 'Why is the sky blue?' }],
})
console.log(response.message.content)

ユースケース

どちらのライブラリも Ollama の完全な機能セットをサポートしています。 Python での例をいくつか示します。

ストリーミング

for chunk in chat('mistral', messages=messages, stream=True):
  print(chunk['message']['content'], end='', flush=True)

マルチモーダル

with open('image.png', 'rb') as file:
  response = ollama.chat(
    model="llava",
    messages=[
      {
        'role': 'user',
        'content': 'What is strange about this image?',
        'images': [file.read()],
      },
    ],
  )
print(response['message']['content'])

テキスト補完

result = ollama.generate(
  model="stable-code",
  prompt="// A c function to reverse a stringn",
)
print(result['response'])

カスタムモデルの作成

modelfile=""'
FROM llama2
SYSTEM You are mario from super mario bros.
'''

ollama.create(model="example", modelfile=modelfile)

カスタムクライアント

ollama = Client(host="my.ollama.host")

その他の例は、GitHub リポジトリで入手できます。 パイソン そして JavaScript 図書館。

新しい GitHub ハンドル

これらのライブラリとメインの Ollama リポジトリは、新しい GitHub 組織に存在するようになりました。 することが！ Dart、Swift、C#、Java、PHP、Rust などを介して Ollama と対話するためのライブラリを保守しているすべての素晴らしいコミュニティ メンバーに感謝します。完全なリストは利用可能です。 ここ – 構築したライブラリ、または使用して楽しんでいるライブラリを追加するには、遠慮せずにプル リクエストを行ってください。

特別に感謝します サウルの原作者、 ollama-js、そしてさまざまなプログラミング言語から Ollama にアクセスしやすくするためにコミュニティ ライブラリに取り組んでいるすべての人々。