LLM Чат
Общение с любой LLM через интерфейс провайдера
Инструкции по использованию
Отправка запросов к любой поддерживаемой LLM (OpenAI, Anthropic, Google, Azure, Bedrock, Vertex AI и другие). Поддерживает системные промпты, настройку температуры и максимального количества токенов.
Инструменты
llm_chat
Отправка запроса к LLM и получение ответа.
Входные параметры
| Параметр | Тип | Обязательный | Описание |
|---|---|---|---|
model | string | Да | Модель LLM (например, gpt-4o, claude-3-opus) |
systemPrompt | string | Нет | Системный промпт |
context | string | Да | Текст запроса / контекст |
apiKey | string | Нет | API-ключ провайдера |
temperature | number | Нет | Температура генерации (0-2) |
maxTokens | number | Нет | Максимальное количество токенов ответа |
azureEndpoint | string | Нет | URL эндпоинта Azure OpenAI |
azureApiVersion | string | Нет | Версия API Azure |
vertexProject | string | Нет | Проект Google Vertex AI |
vertexLocation | string | Нет | Регион Vertex AI |
vertexCredential | string | Нет | Учётные данные Vertex AI |
bedrockAccessKeyId | string | Нет | Access Key ID AWS Bedrock |
bedrockSecretKey | string | Нет | Secret Key AWS Bedrock |
bedrockRegion | string | Нет | Регион AWS Bedrock |
Выходные данные
| Параметр | Тип | Описание |
|---|---|---|
content | string | Текст сгенерированного ответа |
model | string | Использованная модель |
tokens | object | Информация об использовании токенов |