Posting ini diterjemahkan secara otomatis. Untuk versi aslinya, klik di sini.
Saat membangun agen AI, Anda menghabiskan sebagian besar energi pada model, alat, dan prompt. Pertanyaan di mana riwayat percakapan disimpan tampak seperti detail implementasi — tetapi itu adalah salah satu keputusan arsitektur terpenting yang akan Anda buat.
Hal ini menentukan apakah pengguna dapat memisahkan percakapan, membatalkan jawaban, melanjutkan sesi setelah restart, dan apakah data Anda pernah meninggalkan infrastruktur Anda. Tim Agent Framework menerbitkan analisis mendalam.
Dua pola mendasar
Dikelola layanan: Layanan AI menyimpan status percakapan. Aplikasi Anda menyimpan referensi dan layanan secara otomatis menyertakan riwayat yang relevan dalam setiap permintaan.
Dikelola klien: Aplikasi Anda mempertahankan riwayat lengkap dan mengirim pesan yang relevan dengan setiap permintaan. Layanan tidak memiliki status. Anda mengontrol segalanya.
Cara Agent Framework mengabstraksi ini
AgentSession session = await agent.CreateSessionAsync();
var first = await agent.RunAsync("Nama saya Alice.", session);
var second = await agent.RunAsync("Siapa nama saya?", session);
session = agent.create_session()
first = await agent.run("Nama saya Alice.", session=session)
second = await agent.run("Siapa nama saya?", session=session)
Referensi cepat penyedia
| Penyedia | Penyimpanan | Model | Kompaksi |
|---|---|---|---|
| OpenAI/Azure Chat Completions | Klien | N/A | Anda |
| Foundry Agent Service | Layanan | Linear | Layanan |
| Responses API (default) | Layanan | Percabangan | Layanan |
| Anthropic Claude, Ollama | Klien | N/A | Anda |
Cara memilih
- Butuh percabangan atau “batalkan”? → Responses API dikelola layanan
- Butuh kedaulatan data? → Dikelola klien dengan backend database
- Chatbot sederhana? → Linear dikelola layanan sudah cukup
Baca posting lengkap untuk pohon keputusan lengkap.
