CodeAct di Agent Framework: Cara Memotong Latensi Agen Anda Setengahnya

Emiliano Montesdeoca — Sat, 25 Apr 2026 00:00:00 +0000

Posting ini telah diterjemahkan secara otomatis. Untuk versi aslinya, klik di sini.

Ada momen dalam setiap proyek agen di mana Anda melihat trace dan berpikir: “kenapa ini lama sekali?” Model tidak masalah. Alat-alat bekerja. Tapi ada tujuh round trip untuk mendapatkan hasil yang bisa dihitung dalam satu langkah.

Itulah persis masalah yang dipecahkan CodeAct — dan tim Agent Framework baru saja merilis dukungan alpha melalui paket baru agent-framework-hyperlight.

Apa itu CodeAct?

Pola CodeAct secara elegan sederhana: alih-alih memberi model daftar alat untuk dipanggil satu per satu, Anda memberinya satu alat execute_code dan membiarkannya mengekspresikan seluruh rencana sebagai program Python singkat.

Pendekatan	Waktu	Token
Tradisional	27,81d	6.890
CodeAct	13,23d	2.489
Peningkatan	52,4%	63,9%

Keamanan: Micro-VM Hyperlight

Paket agent-framework-hyperlight menggunakan micro-VM Hyperlight. Setiap pemanggilan execute_code mendapat micro-VM baru yang baru dibuat. Startup diukur dalam milidetik. Isolasi hampir gratis.

Alat Anda tetap berjalan di host. Kode lem yang dihasilkan model berjalan di sandbox. Itulah pembagian yang benar.

Pengaturan Minimal

from agent_framework import Agent, tool
from agent_framework_hyperlight import HyperlightCodeActProvider

codeact = HyperlightCodeActProvider(
 tools=[get_weather],
 approval_mode="never_require",
)

agent = Agent(
 client=client,
 name="CodeActAgent",
 instructions="You are a helpful assistant.",
 context_providers=[codeact],
)

Kapan Menggunakan CodeAct (dan Kapan Tidak)

Gunakan CodeAct ketika:

Tugas merantai banyak pemanggilan alat kecil (pencarian, penggabungan, perhitungan)
Latensi dan biaya token penting
Anda ingin isolasi kuat per pemanggilan untuk kode yang dihasilkan model

Tetap gunakan tool-calling tradisional ketika:

Agen hanya melakukan satu atau dua pemanggilan alat per giliran
Setiap pemanggilan memiliki efek samping yang perlu disetujui secara individual

Coba Sekarang

pip install agent-framework-hyperlight --pre