llmgw API в Python

Используйте официальный OpenAI SDK — достаточно указать base_url и ключ llmgw. Работает с любой моделью из каталога.

pip install openai

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmgw.ru/v1",
    api_key="llmgw-...",
)
resp = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Объясни asyncio в Python"}],
)
print(resp.choices[0].message.content)

stream = client.chat.completions.create(
    model="claude-3.7-sonnet",
    messages=[{"role": "user", "content": "Привет"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="gemini-2.5-pro",
    openai_api_base="https://api.llmgw.ru/v1",
    openai_api_key="llmgw-...",
)
print(llm.invoke("Привет!").content)

Получить ключ →