Mengapa OpenAI Menunda GPT-6.1 Astra, dan Mengapa Itu Penting

Jarang sekali sebuah lab AI mengumumkan model yang tidak akan dirilisnya. Pada 29 September, kurang dari empat minggu setelah meluncurkan GPT-6 Astra, OpenAI menyatakan tidak akan merilis penerusnya, GPT-6.1 Astra, karena pengujian internal menemukan risiko keselamatan. Kekurangan spesifik yang disebutkannya seharusnya sudah akrab bagi siapa pun yang pernah mempekerjakan agen AI.

Apa yang terjadi

Menurut Al Jazeera, yang mengutip laporan pertama The Wall Street Journal, OpenAI mengumumkan keputusan itu menjelang konferensi pengembang tahunannya. Saachi Jain, kepala sistem keselamatan OpenAI, mengatakan model tersebut tidak memenuhi ekspektasi perusahaan dalam mengikuti keinginan manusia selama pengujian internal. Ia mengatakan model itu lebih baik daripada pendahulunya di beberapa area, tetapi tidak memenuhi standar dalam hal "cakupan dan otorisasi, serta cara model berkomunikasi kembali kepada pengguna".

Jain menggambarkan ketegangan itu secara langsung: "Untuk segala hal yang berkaitan dengan keselamatan dan alignment, selalu ada kompromi." Ia mengatakan pengembang harus menemukan "garis yang tepat antara tetap berada dalam cakupan, tetapi juga menghindari kemalasan", dan menambahkan bahwa ketika OpenAI merilis model kepada pengguna, "kami memiliki standar yang sangat tinggi dalam hal keselamatan dan alignment." Artikel itu tidak menyebutkan apa, jika ada, yang akan dirilis sebagai gantinya.

Mengapa ini penting

Baca kembali tiga area kegagalan itu: cakupan, otorisasi, dan komunikasi kembali kepada pengguna. Ketiganya bukan risiko riset yang eksotis. Ketiganya adalah mode kegagalan sehari-hari dari sistem apa pun yang bertindak atas nama seseorang.

• Cakupan: apakah ia hanya melakukan apa yang diminta, atau memutuskan untuk melakukan lebih?
• Otorisasi: apakah ia hanya bertindak di tempat ia memiliki izin?
• Komunikasi: apakah ia memberi tahu pengguna secara akurat apa yang dilakukannya dan apa yang ditemukannya?

Poin Jain tentang kemalasan menjelaskan mengapa hal ini sulit. Agen yang berhenti di setiap hambatan tidak berguna. Agen yang tidak pernah berhenti berbahaya. Menyetel keseimbangan di antara keduanya kini menjadi bagian inti pengembangan model, dan sama pentingnya sebagai bagian inti penerapan agen di dalam perusahaan.

Keputusan itu sendiri patut diapresiasi. Merilis sesuai jadwal adalah kebiasaan default industri. Menahan sebuah model secara terbuka karena model itu lebih mumpuni dalam beberapa hal tetapi tidak cukup tepercaya dalam hal lain adalah jenis kompromi yang seharusnya kita harapkan dibuat dan dijelaskan oleh lab.

Apa kata riset saya

Area kegagalan ketiga, komunikasi kembali, dekat dengan fokus riset saya sendiri. AI yang dapat dijelaskan untuk pemasaran adalah tentang membuat keluaran sistem dapat dipahami dan jujur bagi orang yang harus menindaklanjutinya. Dalam Against Opacity (ACM Multimedia 2023) kami menggunakan asisten LLM untuk menjelaskan apa yang mendorong prediksi rasio klik-tayang bagi iklan baru. Dalam MindFuse (ACM Multimedia 2025) kami membangun AI generatif yang dapat dijelaskan untuk bersama-sama menyusun strategi pemasaran dari data iklan nyata.

Benang merahnya adalah bahwa rekomendasi hanya seberguna penjelasannya tentang dirinya sendiri. Agen yang menyelesaikan tugas tetapi melaporkannya secara tidak akurat lebih buruk daripada agen yang gagal secara terbuka, karena ia merusak gambaran manusia tentang apa yang terjadi. Dalam pemasaran, tempat agen makin sering mengubah anggaran, meluncurkan kreatif, dan mengirim pesan, laporan yang tidak akurat dapat menelan biaya nyata sebelum ada yang menyadarinya.

Saya juga telah menulis di Forbes tentang penerapan agen AI dalam pemasaran. Makin banyak penerapan itu menjadi nyata, makin besar peran kebajikan yang membosankan, yaitu cakupan, izin, dan pelaporan yang jujur, dalam menentukan mana yang bertahan.

Pertanyaan yang perlu diajukan kepada agen pemasaran mana pun

• Cakupan: Dapatkah saya melihat, secara tertulis, persis apa yang boleh dilakukan agen ini? Apa yang terjadi ketika sebuah tugas tampaknya membutuhkan lebih dari itu?
• Otorisasi: Akun, anggaran, dan kanal mana yang dapat disentuhnya? Apakah izinnya lebih sempit daripada izin pengguna itu sendiri?
• Eskalasi: Ketika menemui hambatan, apakah ia berhenti dan bertanya, atau berimprovisasi?
• Pelaporan: Apakah ringkasannya sesuai dengan log? Lakukan pemeriksaan acak secara rutin.
• Kemalasan: Apakah ia menyerah terlalu cepat pada tugas yang sah? Lacak juga pekerjaan yang tidak tuntas sebagai metrik.

Jika sebuah lab frontier dapat memutuskan bahwa model yang lebih mumpuni belum siap karena gagal menjawab pertanyaan-pertanyaan ini, tim pemasaran dapat menerapkan standar yang sama pada agen yang ditempatkannya di hadapan pelanggan dan anggaran.

FAQ