SULAWESI TENGAH — Bulan ini, tim peneliti Anthropic mempublikasikan studi bertajuk "Automated Researchers Can Reliably Mitigate Alignment Failures" yang menguji apakah AI bisa melatih dirinya sendiri. Hasilnya, sistem yang disebut Automated Alignment Researcher (AAR) ini mampu mengatasi kegagalan alignment—kondisi ketika AI berperilaku di luar instruksi—dalam hitungan jam, bukan minggu.
Bagaimana Sistem AAR Bekerja?
Dipimpin oleh peneliti Chen Yueh-Han, sistem AAR meniru alur kerja peneliti manusia. Ia mencari literatur yang relevan, mengusulkan metode perbaikan, lalu melatih model selama 30 menit per iterasi. Metode yang terbukti efektif dipertahankan, sementara yang gagal langsung dibuang.
Proses ini berulang secara otomatis dengan skala besar. Hasilnya, performa model meningkat di semua 10 benchmark perilaku menyimpang yang diuji, tanpa merusak kemampuan umum model.
Lebih Cepat dan Jauh Lebih Murah dari Peneliti Manusia
Perbandingan biaya menjadi temuan paling mencolok. Biaya operasional AAR sekitar USD 4 per jam (sekitar Rp 66 ribu) untuk pemakaian API. Sementara itu, upah peneliti manusia di Anthropic mencapai USD 150 per jam (sekitar Rp 2,4 juta).
Studi ini juga mengklaim metode terbaik dari AAR mengungguli usulan peneliti manusia dalam rata-rata enam jam. "Arah riset yang dipandu manusia tidak menghasilkan performa yang lebih kuat," tulis tim peneliti dalam paper tersebut.
Menuju Kecerdasan yang Meningkat Sendiri
Temuan ini menjadi langkah awal menuju recursive self-improvement, skenario di mana AI meningkatkan kemampuan pelatihannya sendiri tanpa campur tangan manusia. Jika terbukti konsisten, praktik ini berpotensi mengubah cara laboratorium AI mengembangkan model di masa depan.
Namun, tim peneliti mengakui pendekatan ini punya keterbatasan. Efektivitas AAR sangat bergantung pada kualitas benchmark yang digunakan sebagai tolok ukur. Jika benchmark tidak mencerminkan tujuan alignment yang sebenarnya, hasil perbaikan juga tidak akan akurat.
Selain itu, sistem ini membutuhkan literatur riset yang mumpuni sebagai bahan rujukan. Menjaga dan memperbarui basis pengetahuan tersebut tetap menjadi tugas manusia—setidaknya untuk saat ini.
Bagi pengguna AI di Indonesia, temuan ini berarti model yang kita pakai sehari-hari berpotensi menjadi lebih aman dan stabil tanpa perlu menunggu siklus pembaruan yang lama. Namun, riset ini masih tahap awal dan belum diterapkan pada model komersial.
