Agent Framework'te CodeAct: Ajanınızın Gecikmesini Yarıya Nasıl İndirirsiniz

Bu gönderi otomatik olarak çevrilmiştir. Orijinal sürüm için buraya tıklayın.

Her ajan projesinde, izlemeye bakıp “bu neden bu kadar uzun sürüyor?” diye düşündüğünüz bir an gelir. Model iyi çalışıyor. Araçlar çalışıyor. Ama tek seferinde hesaplanabilecek bir sonuç için yedi gidiş-dönüş oluyor.

CodeAct’ın tam olarak çözdüğü sorun bu — ve Agent Framework ekibi yeni agent-framework-hyperlight paketiyle alfa destek yayınladı.

CodeAct Nedir?

CodeAct deseni zarifçe basittir: Modele tek tek çağrılacak araçların listesini vermek yerine, tek bir execute_code aracı verin ve planın tamamını kısa bir Python programı olarak ifade etmesine izin verin.

Güvenlik: Hyperlight Mikro-VM’leri

agent-framework-hyperlight paketi Hyperlight mikro-VM’leri kullanır. Her execute_code çağrısı kendi yeni mikro-VM’ini alır. Başlatma milisaniyelerle ölçülür. İzolasyon neredeyse ücretsizdir.

Araçlarınız ana bilgisayarda çalışmaya devam eder. Modelin oluşturduğu yapıştırıcı kod sandbox’ta çalışır. Bu doğru ayrımdır.

Minimum Kurulum

from agent_framework import Agent, tool
from agent_framework_hyperlight import HyperlightCodeActProvider

codeact = HyperlightCodeActProvider(
    tools=[get_weather],
    approval_mode="never_require",
)

agent = Agent(
    client=client,
    name="CodeActAgent",
    instructions="You are a helpful assistant.",
    context_providers=[codeact],
)

CodeAct Ne Zaman Kullanılır (Ne Zaman Kullanılmaz)

CodeAct kullanın:

• Görev birçok küçük araç çağrısını zincirliyor (aramalar, birleştirmeler, hesaplamalar)
• Gecikme ve token maliyeti önemliyse
• Model tarafından oluşturulan kod için güçlü izolasyon istiyorsanız

Geleneksel araç çağrısında kalın:

• Ajan tur başına yalnızca bir iki araç çağrısı yapıyorsa
• Her çağrının bireysel onay gerektiren yan etkileri varsa

Şimdi Deneyin

pip install agent-framework-hyperlight --pre

Agent Framework blogundaki tam gönderiyi okuyun.