dspy.ai で Gemini 互換のカスタムエンドポイントを設定する方法

• 概要
• 環境
• サンプルコード
• 最後に
• 参考サイト

概要

カスタムメソッド部分は指定しないのがポイントです

環境

• Ubuntu 24.04
• Python 3.12.9
• dspy 2.6.13

サンプルコード

import dspy

lm = dspy.LM(
    "gemini/gemini-1.5-pro",
    api_key="xxx",
    api_version="",
    api_base="https://your-api-endpoint/ai/chat-ai/pro",
)
dspy.configure(lm=lm)

result = lm("Are you gemini pro 1.5?", temperature=0.7)
print(result)

最後に

内部的には LiteLLM なので LiteLLM でコールできるエンドポイントは dspy でもコールできます

参考サイト

• https://dspy.ai/learn/programming/language_models