Documentation Index
Fetch the complete documentation index at: https://wb-21fd5541-update-training-api-26.mintlify.app/llms.txt
Use this file to discover all available pages before exploring further.
Openrouter.ai는 OpenAI GPT-4, Anthropic Claude, Google Gemini와 같은 기반 모델뿐만 아니라 Llama-3, Mixtral 등 다양한 오픈 소스 모델을 모두 지원하는 LLM 통합 인터페이스입니다. 일부 모델은 무료로 제공되기도 합니다.
OpenRouter는 REST API 및 OpenAI SDK 호환성(문서)을 제공하며, Weave는 이를 자동으로 감지하고 통합합니다 (자세한 내용은 OpenRouter 빠른 시작을 참조하세요).
기존 OpenAI SDK 코드를 OpenRouter로 전환하려면, API 키를 OpenRouter API 키로 바꾸고, base_url을 https://openrouter.ai/api/v1로, 모델을 OpenRouter의 여러 채팅 모델 중 하나로 변경하면 됩니다. weave.init()을 호출할 때 trace를 기록할 프로젝트 이름을 입력하세요. 별도로 지정하지 않으면 기본 엔티티가 사용됩니다. 기본 엔티티를 확인하거나 업데이트하려면 W&B Models 문서의 User Settings를 참조하세요.
import os
import openai
import weave
weave.init('openrouter-weave')
system_content = "You are a travel agent. Be descriptive and helpful."
user_content = "Tell me about San Francisco"
client = openai.OpenAI(
api_key=os.environ.get("OPENROUTER_API_KEY"),
base_url="https://openrouter.ai/api/v1",
)
chat_completion = client.chat.completions.create(
extra_headers={
"HTTP-Referer": $YOUR_SITE_URL, # 선택 사항, openrouter.ai 순위에 앱을 포함하려는 경우 사용합니다.
"X-Title": $YOUR_APP_NAME, # 선택 사항. openrouter.ai의 순위에 표시됩니다.
},
model="meta-llama/llama-3.1-8b-instruct:free",
messages=[
{"role": "system", "content": system_content},
{"role": "user", "content": user_content},
],
temperature=0.7,
max_tokens=1024,
)
response = chat_completion.choices[0].message.content
print("Model response:\n", response)
