DSPy — это фреймворк с открытым исходным кодом для программирования — а не промптинга — языковых моделей. DSPy позволяет создавать интерпретируемых и модульных агентов на основе LLM с использованием функций Python, структурированных модулей и декларативных сигнатур, что упрощает композицию, отладку и надежное развертывание приложений языковых моделей.
С DSPy в AACFlow вы можете:
- Запускать пользовательские предсказания: Подключать свой самостоятельно размещенный сервер DSPy и вызывать конечные точки предсказаний для различных задач обработки естественного языка.
- Использовать цепочку мыслей и рассуждения ReAct: Использовать расширенные модули DSPy для пошаговых рассуждений, многоходовых диалогов и циклов действий-наблюдений.
- Интегрировать с вашими рабочими процессами: Автоматизировать предсказания LLM и рассуждения как часть любой автоматизации AACFlow или рутины агента.
- Предоставлять пользовательские конечные точки и контекст: Гибко вызывать свои собственные API на основе DSPy с пользовательской аутентификацией, конечными точками, полями ввода и контекстом.
Эти функции позволяют вашим агентам AACFlow получать доступ к модульным, интерпретируемым программам на основе LLM для таких задач, как ответы на вопросы, анализ документов, поддержка принятия решений и многое другое — при этом вы сохраняете контроль над моделью, данными и логикой.
Инструкции по использованию
Интегрируйтесь с вашими самостоятельно размещенными программами DSPy для предсказаний на основе LLM. Поддерживает Predict, Chain of Thought и агентов ReAct. DSPy — это фреймворк для программирования — а не промптинга — языковых моделей.
Инструменты
dspy_predict
Запуск предсказания с использованием конечной точки самостоятельно размещенной программы DSPy
Входные параметры
| Параметр | Тип | Обязательный | Описание |
|---|---|---|---|
baseUrl | string | Да | Базовый URL сервера DSPy (например, https://your-dspy-server.com) |
apiKey | string | Нет | Ключ API для аутентификации (если требуется вашим сервером) |
endpoint | string | Нет | Путь к конечной точке API (по умолчанию /predict) |
input | string | Да | Входной текст для отправки в программу DSPy |
inputField | string | Нет | Имя поля ввода, ожидаемого программой DSPy (по умолчанию "text") |
context | string | Нет | Дополнительный контекст для предоставления программе DSPy |
additionalInputs | json | Нет | Дополнительные пары ключ-значение для включения в тело запроса |
Выходные данные
| Параметр | Тип | Описание |
|---|---|---|
answer | string | Основной вывод/ответ от программы DSPy |
reasoning | string | Рассуждение или обоснование ответа (если доступно) |
status | string | Статус ответа от сервера DSPy (success или error) |
rawOutput | json | Полный необработанный вывод из программы DSPy (result.toDict()) |
dspy_chain_of_thought
Запуск предсказания Chain of Thought с использованием конечной точки программы DSPy ChainOfThought
Входные параметры
| Параметр | Тип | Обязательный | Описание |
|---|---|---|---|
baseUrl | string | Да | Базовый URL сервера DSPy (например, https://your-dspy-server.com) |
apiKey | string | Нет | Ключ API для аутентификации (если требуется вашим сервером) |
endpoint | string | Нет | Путь к конечной точке API (по умолчанию /predict) |
question | string | Да | Вопрос для ответа с использованием рассуждений цепочки мыслей |
context | string | Нет | Дополнительный контекст для ответа на вопрос |
Выходные данные
| Параметр | Тип | Описание |
|---|---|---|
answer | string | Ответ, сгенерированный через рассуждения цепочки мыслей |
reasoning | string | Пошаговые рассуждения, приведшие к ответу |
status | string | Статус ответа от сервера DSPy (success или error) |
rawOutput | json | Полный необработанный вывод из программы DSPy (result.toDict()) |
dspy_react
Запуск агента ReAct с использованием конечной точки программы DSPy ReAct для многошаговых рассуждений и действий
Входные параметры
| Параметр | Тип | Обязательный | Описание |
|---|---|---|---|
baseUrl | string | Да | Базовый URL сервера DSPy (например, https://your-dspy-server.com) |
apiKey | string | Нет | Ключ API для аутентификации (если требуется вашим сервером) |
endpoint | string | Нет | Путь к конечной точке API (по умолчанию /predict) |
task | string | Да | Задача или вопрос для работы агента ReAct |
context | string | Нет | Дополнительный контекст для задачи |
maxIterations | number | Нет | Максимальное количество итераций рассуждений (по умолчанию настройка сервера) |
Выходные данные
| Параметр | Тип | Описание |
|---|---|---|
answer | string | Окончательный ответ или результат от агента ReAct |
reasoning | string | Общее резюме рассуждений от агента |
trajectory | array | Пошаговая траектория мыслей, действий и наблюдений |
↳ thought | string | Рассуждение на этом шаге |
↳ toolName | string | Имя вызванного инструмента/действия |
↳ toolArgs | json | Аргументы, переданные инструменту |
↳ observation | string | Наблюдение/результат выполнения инструмента |
status | string | Статус ответа от сервера DSPy (success или error) |
rawOutput | json | Полный необработанный вывод из программы DSPy (result.toDict()) |

