AACFlow

DSPy

Запуск предсказаний с использованием самостоятельно размещенных программ DSPy

DSPy — это фреймворк с открытым исходным кодом для программирования — а не промптинга — языковых моделей. DSPy позволяет создавать интерпретируемых и модульных агентов на основе LLM с использованием функций Python, структурированных модулей и декларативных сигнатур, что упрощает композицию, отладку и надежное развертывание приложений языковых моделей.

С DSPy в AACFlow вы можете:

  • Запускать пользовательские предсказания: Подключать свой самостоятельно размещенный сервер DSPy и вызывать конечные точки предсказаний для различных задач обработки естественного языка.
  • Использовать цепочку мыслей и рассуждения ReAct: Использовать расширенные модули DSPy для пошаговых рассуждений, многоходовых диалогов и циклов действий-наблюдений.
  • Интегрировать с вашими рабочими процессами: Автоматизировать предсказания LLM и рассуждения как часть любой автоматизации AACFlow или рутины агента.
  • Предоставлять пользовательские конечные точки и контекст: Гибко вызывать свои собственные API на основе DSPy с пользовательской аутентификацией, конечными точками, полями ввода и контекстом.

Эти функции позволяют вашим агентам AACFlow получать доступ к модульным, интерпретируемым программам на основе LLM для таких задач, как ответы на вопросы, анализ документов, поддержка принятия решений и многое другое — при этом вы сохраняете контроль над моделью, данными и логикой.

Инструкции по использованию

Интегрируйтесь с вашими самостоятельно размещенными программами DSPy для предсказаний на основе LLM. Поддерживает Predict, Chain of Thought и агентов ReAct. DSPy — это фреймворк для программирования — а не промптинга — языковых моделей.

Инструменты

dspy_predict

Запуск предсказания с использованием конечной точки самостоятельно размещенной программы DSPy

Входные параметры

ПараметрТипОбязательныйОписание
baseUrlstringДаБазовый URL сервера DSPy (например, https://your-dspy-server.com)
apiKeystringНетКлюч API для аутентификации (если требуется вашим сервером)
endpointstringНетПуть к конечной точке API (по умолчанию /predict)
inputstringДаВходной текст для отправки в программу DSPy
inputFieldstringНетИмя поля ввода, ожидаемого программой DSPy (по умолчанию "text")
contextstringНетДополнительный контекст для предоставления программе DSPy
additionalInputsjsonНетДополнительные пары ключ-значение для включения в тело запроса

Выходные данные

ПараметрТипОписание
answerstringОсновной вывод/ответ от программы DSPy
reasoningstringРассуждение или обоснование ответа (если доступно)
statusstringСтатус ответа от сервера DSPy (success или error)
rawOutputjsonПолный необработанный вывод из программы DSPy (result.toDict())

dspy_chain_of_thought

Запуск предсказания Chain of Thought с использованием конечной точки программы DSPy ChainOfThought

Входные параметры

ПараметрТипОбязательныйОписание
baseUrlstringДаБазовый URL сервера DSPy (например, https://your-dspy-server.com)
apiKeystringНетКлюч API для аутентификации (если требуется вашим сервером)
endpointstringНетПуть к конечной точке API (по умолчанию /predict)
questionstringДаВопрос для ответа с использованием рассуждений цепочки мыслей
contextstringНетДополнительный контекст для ответа на вопрос

Выходные данные

ПараметрТипОписание
answerstringОтвет, сгенерированный через рассуждения цепочки мыслей
reasoningstringПошаговые рассуждения, приведшие к ответу
statusstringСтатус ответа от сервера DSPy (success или error)
rawOutputjsonПолный необработанный вывод из программы DSPy (result.toDict())

dspy_react

Запуск агента ReAct с использованием конечной точки программы DSPy ReAct для многошаговых рассуждений и действий

Входные параметры

ПараметрТипОбязательныйОписание
baseUrlstringДаБазовый URL сервера DSPy (например, https://your-dspy-server.com)
apiKeystringНетКлюч API для аутентификации (если требуется вашим сервером)
endpointstringНетПуть к конечной точке API (по умолчанию /predict)
taskstringДаЗадача или вопрос для работы агента ReAct
contextstringНетДополнительный контекст для задачи
maxIterationsnumberНетМаксимальное количество итераций рассуждений (по умолчанию настройка сервера)

Выходные данные

ПараметрТипОписание
answerstringОкончательный ответ или результат от агента ReAct
reasoningstringОбщее резюме рассуждений от агента
trajectoryarrayПошаговая траектория мыслей, действий и наблюдений
thoughtstringРассуждение на этом шаге
toolNamestringИмя вызванного инструмента/действия
toolArgsjsonАргументы, переданные инструменту
observationstringНаблюдение/результат выполнения инструмента
statusstringСтатус ответа от сервера DSPy (success или error)
rawOutputjsonПолный необработанный вывод из программы DSPy (result.toDict())

On this page

Начните создавать сегодня
Нам доверяют более 100 000 разработчиков.
SaaS-платформа для создания AI-агентов и управления агентным workforce.
Начать