Определить границу инструмента
Дайте вашему агенту небольшие инструменты с четкими входами и выходами: поиск в Интернете, видео discover и чтение доступной расшифровки видео. Ваш агент выбирает, когда им звонить и как использовать доказательства.
Приведенный ниже код обеспечивает функции поиска. Зарегистрируйте их в существующей системе агентов; они работают независимо от того, какую модель или библиотеку оркестровки вы выберете.
# Replace YOUR_API_KEY near the top of the code below.Внедрение инструментов поиска
В следующем коде Python 3 используется стандартная библиотека. Сохранить как tools.py. Запуск его напрямую делает один поисковый запрос Google; импорт позволяет вашему приложению зарегистрировать три функции в качестве инструментов.
import json
import gzip
import os
import urllib.error
import urllib.request
API_URL = "https://data.flashdata.dev"
API_KEY = "YOUR_API_KEY"
def api_request(path, payload=None, response_headers=None, base_url=API_URL):
target = path if path.startswith(("https://", "http://")) else base_url + path
request = urllib.request.Request(
target,
data=json.dumps(payload).encode() if payload is not None else None,
headers={"X-API-Key": API_KEY, "Content-Type": "application/json"},
method="POST" if payload is not None else "GET",
)
with urllib.request.urlopen(request, timeout=60) as response:
if response_headers is not None:
response_headers.update(response.headers)
return json.load(response)
class NoRedirect(urllib.request.HTTPRedirectHandler):
def redirect_request(self, request, file_pointer, code, message, headers, new_url):
return None
def result_request(url):
request = urllib.request.Request(url, headers={"X-API-Key": API_KEY}, method="GET")
try:
with urllib.request.build_opener(NoRedirect).open(request, timeout=60):
raise RuntimeError("Results endpoint did not redirect to storage")
except urllib.error.HTTPError as response:
if response.code != 302 or not response.headers.get("Location"):
raise
storage_url = response.headers["Location"]
response.close()
storage_request = urllib.request.Request(storage_url, headers={"Accept-Encoding": "gzip"})
with urllib.request.urlopen(storage_request, timeout=60) as response:
body = response.read()
if response.headers.get("Content-Encoding") == "gzip":
body = gzip.decompress(body)
return json.loads(body)["results"]
def search_web(query):
"""Search the web and return titles, URLs and result snippets."""
response = api_request("/v1/queries/realtime", {
"source": "google_search", "query": query,
})
return response["results"][0]
def find_videos(query):
"""Discover YouTube videos and their video IDs."""
response = api_request("/v1/queries/realtime", {
"source": "youtube_search", "query": query,
"params": {"max_results": 5},
})
return response["results"][0]["results"]
def read_video_transcript(video_id, language="en"):
"""Read available captions with timestamps; captions may be unavailable."""
response = api_request("/v1/queries/realtime", {
"source": "youtube_transcript", "video_id": video_id,
"params": {"language": language, "auto": True},
})
return response["results"][0]
# Register these functions as tools in your own agent framework.
# The agent chooses when to call them and how to use the evidence.
if __name__ == "__main__":
print(json.dumps(search_web("distributed systems"), indent=2))
python3 tools.pyПодключите инструменты к своему агенту
Опишите аргументы каждого инструмента и результаты в схеме инструмента вашего фреймворка. Держите query, video_id и language в качестве явных входных данных, чтобы модель могла запросить необходимые ей данные.
search_web(query)возвращает результаты Google с исходным кодом URLs и фрагментами.find_videos(query)возвращает видео и IDs, необходимые для последующих запросов.read_video_transcript(video_id, language)возвращает доступные сегменты подписи с временными метками.
Возврат полезных ошибок инструмента, когда запрос не выполняется или трек подписи недоступен. Примените бюджеты кредитов и запросов вашего приложения и позвольте агенту решить, попробовать ли другой запрос или использовать другой источник.
Храните источники и временные метки
Сниппет поиска - это предварительный просмотр страницы. Сохраняйте свой URL и не рассматривайте фрагмент как полную статью. Для транскриптов сохраните видео ID, язык и время сегмента, чтобы агент мог процитировать исходный отрывок.
Для базы знаний о видео храните заголовок видео и ссылку с указанием времени на источник с каждым фрагментом текста. Затем ваша система поиска может вернуть как контент, так и ссылку, используемую для поддержки ответа.