Topik yang dibahas dalam panduan ini: Tool Retrieval Gemini API.
Seiring dengan semakin kompleksnya aplikasi berbasis kecerdasan buatan, tantangan utama bagi pengembang adalah mengelola perpustakaan alat yang besar. Ketika sebuah agent terhubung dengan puluhan atau bahkan ratusan fungsi, mengirimkan skema parameter lengkap untuk setiap permintaan menjadi tidak efisien. Hal ini secara langsung menginflasi jumlah token input, menambah latensi respons, dan menurunkan akurasi pemilihan alat seiring bertambahnya daftar kandidat.
Google DeepMind memperkenalkan fitur baru bernama Tool Retrieval di Gemini API sebagai solusi atas masalah tersebut. Fitur ini memungkinkan agent untuk menyimpan perpustakaan alatnya dalam keadaan siaga dan hanya memuat skema parameter spesifik ketika tugas saat itu membutuhkannya. Pendekatan ini dirancang khusus untuk mengurangi penggunaan token input, mempercepat kinerja sistem, serta meningkatkan akurasi pemilihan fungsi tanpa perlu membangun indeks eksternal yang rumit.
Mekanisme Kerja Tool Retrieval
Untuk mengaktifkan fitur ini, pengembang perlu menambahkan alat 'tool_search' ke dalam permintaan dan mengatur properti 'defer_loading' menjadi true pada alat-alat yang ingin ditahan pemuatannya. Meskipun model tetap melihat nama dan deskripsi dari setiap alat yang ditunda, skema parameternya tidak masuk ke dalam konteks langsung. Ketika model membutuhkan suatu alat, ia akan memintanya berdasarkan nama, lalu API akan memuat skema lengkapnya di dalam permintaan yang sama.
Proses ini terjadi secara internal dalam satu panggilan API. Model melakukan pencarian, API memuat skema, dan model mengeluarkan pemanggilan fungsi. Semua langkah ini terekam dalam 'interaction.steps', memudahkan pengembang untuk men-debug nama atau deskripsi alat. Dengan cara ini, tidak ada indeks yang perlu dibangun atau di-hosting oleh pihak pengembang karena Gemini menjalankan pencarian secara server-side.

Implementasi Praktis dan Integrasi Kode
Pada sisi teknis, implementasi Tool Retrieval cukup sederhana. Pengembang dapat mempertahankan alat-alat yang paling sering digunakan dalam keadaan dimuat di awal, sementara memuat alat dengan frekuensi rendah secara tertunda. Fitur ini juga mendukung prefix caching, di mana skema tertunda tetap berada di luar awalan prompt, sehingga cache prefix tetap konsisten dari satu putaran ke putaran berikutnya. Hal ini sangat menguntungkan untuk percakapan panjang yang stabil.
Berikut adalah contoh ilustrasi implementasi kode menggunakan Python SDK resmi. Kode ini mendemonstrasikan bagaimana mengatur alat 'issue_refund' agar dimuat secara tertunda ketika dibutuhkan.
Contoh Implementasi dan Keterbatasan Sistem
Contoh berikut menunjukkan struktur dasar untuk mengaktifkan fitur ini dalam interaksi client. Perhatikan penggunaan flag 'defer_loading: True' pada definisi fungsi.
Pencarian Sisi Klien dan Server MCP
Selain pencarian server-side, Tool Retrieval juga mendukung pencarian sisi klien jika pengembang memiliki registri alat sendiri atau filter izin per pengguna. Dengan mendeklarasikan 'tool_search' dengan eksekusi 'client', aplikasi dapat menjalankan lookup lokal. Ini memungkinkan eksposur alat baru di tengah percakapan ketika pengguna menghubungkan integrasi tambahan. Selain itu, fitur ini kompatibel dengan server MCP jarak jauh, di mana setiap alat yang diekspos oleh server tersebut akan dimuat secara on-demand tanpa perlu mendaftar satu per satu.
Pertimbangan Biaya dan Kompatibilitas Model
Dari segi biaya, Tool Retrieval tidak memiliki biaya terpisah. Token input dan output ditagih sesuai tarif standar model yang digunakan. Menambahkan 'tool_search' menambah blok token input tetap yang kecil, dan setiap skema yang dimuat ditagih sebagai input untuk sisa percakapan. Penghematan terjadi ketika skema yang tidak pernah dimuat melebihi skema yang dimuat, yang merupakan kasus umum untuk perpustakaan besar. Fitur ini bekerja dengan Gemini 3.6 dan model seri Gemini 4 terbaru.
Sumber
blog.google — Introducing Tool Retrieval in the Gemini API
Disusun dengan bantuan AI dan pemeriksaan otomatis. Contoh bukan klaim pengujian langsung. Laporkan koreksi melalui komentar.


Diskusi