Jarang sekali makmal AI mengumumkan model yang tidak akan dilancarkannya. Pada 29 September, kurang empat minggu selepas melancarkan GPT-6 Astra, OpenAI berkata ia tidak akan mengeluarkan penggantinya, GPT-6.1 Astra, kerana ujian dalaman mengenal pasti risiko keselamatan. Kelemahan khusus yang dinamakannya pasti biasa bagi sesiapa yang pernah menggunakan ejen AI untuk bekerja.
Apa yang berlaku
Menurut Al Jazeera, yang memetik laporan pertama oleh The Wall Street Journal, OpenAI mengumumkan keputusan itu pada malam sebelum persidangan pembangun tahunannya. Saachi Jain, ketua sistem keselamatan OpenAI, berkata model itu tidak mencapai jangkaan syarikat dalam mengikut kehendak manusia semasa ujian dalaman. Beliau berkata ia lebih baik daripada pendahulunya dalam beberapa bidang tetapi tidak mencapai piawaian dari segi "skop dan kebenaran, dan cara ia berkomunikasi semula dengan pengguna".
Jain menggambarkan ketegangan itu secara langsung: "Bagi apa sahaja berkaitan keselamatan dan penjajaran, ada pertukaran." Beliau berkata pembangun perlu mencari "garis yang betul antara kekal dalam skop, tetapi juga mengelakkan kemalasan", dan menambah bahawa apabila OpenAI melancarkan model kepada pengguna, "kami mempunyai piawaian yang sangat tinggi dari segi keselamatan dan penjajaran." Artikel itu tidak menyatakan apa, jika ada, yang akan dikeluarkan sebagai ganti.
Mengapa ia penting
Baca semula tiga bidang kegagalan itu: skop, kebenaran, dan berkomunikasi semula dengan pengguna. Ia bukan risiko penyelidikan yang eksotik. Ia ialah mod kegagalan harian bagi mana-mana sistem yang bertindak bagi pihak seseorang.
- Skop: adakah ia melakukan hanya apa yang diminta, atau adakah ia memutuskan untuk melakukan lebih?
- Kebenaran: adakah ia bertindak hanya di tempat ia mempunyai kebenaran?
- Komunikasi: adakah ia memberitahu pengguna dengan tepat apa yang dilakukannya dan apa yang ditemuinya?
Perkara yang dikemukakan Jain tentang kemalasan menjelaskan mengapa ini sukar. Ejen yang berhenti pada setiap halangan tidak berguna. Ejen yang tidak pernah berhenti berbahaya. Menala keseimbangan antara kedua-duanya kini menjadi bahagian teras pembangunan model, dan sama juga bahagian teras melaksanakan ejen di dalam syarikat.
Keputusan itu sendiri wajar diiktiraf. Melancarkan mengikut jadual ialah amalan lalai industri. Menahan model secara terbuka kerana ia lebih berkebolehan dalam beberapa aspek tetapi tidak cukup boleh dipercayai dalam aspek lain ialah jenis pertukaran yang sepatutnya kita mahu makmal lakukan, dan jelaskan.
Apa kata penyelidikan saya
Bidang kegagalan ketiga, berkomunikasi semula, hampir dengan tumpuan penyelidikan saya sendiri. AI yang boleh dijelaskan untuk pemasaran adalah tentang menjadikan output sistem mudah difahami dan jujur kepada orang yang mesti bertindak berdasarkannya. Dalam Against Opacity (ACM Multimedia 2023) kami menggunakan pembantu LLM untuk menjelaskan apa yang mendorong kadar klik lalu yang diramal bagi iklan baharu. Dalam MindFuse (ACM Multimedia 2025) kami membina AI generatif yang boleh dijelaskan untuk mencipta strategi pemasaran bersama daripada data iklan sebenar.
Benang merahnya ialah cadangan hanya berguna setakat mana ia boleh menerangkan dirinya. Ejen yang menyelesaikan tugas tetapi melaporkannya secara tidak tepat lebih buruk daripada ejen yang gagal secara terbuka, kerana ia merosakkan gambaran manusia tentang apa yang berlaku. Dalam pemasaran, di mana ejen semakin banyak mengubah bajet, melancarkan kreatif dan menghantar mesej, laporan yang tidak tepat boleh menyebabkan kerugian wang sebenar sebelum sesiapa menyedarinya.
Saya juga telah menulis di Forbes tentang aplikasi ejen AI dalam pemasaran. Semakin banyak aplikasi itu menjadi kenyataan, semakin banyak nilai-nilai yang membosankan seperti skop, kebenaran dan pelaporan jujur akan menentukan yang mana akan kekal.
Soalan untuk ditanya kepada mana-mana ejen pemasaran
- Skop: Bolehkah saya melihat, secara bertulis, tepat apa yang dibenarkan untuk dilakukan oleh ejen ini? Apa yang berlaku apabila sesuatu tugas kelihatan memerlukan lebih?
- Kebenaran: Akaun, bajet dan saluran mana yang boleh disentuhnya? Adakah kebenarannya lebih sempit daripada kebenaran pengguna sendiri?
- Peningkatan: Apabila ia menemui halangan, adakah ia berhenti dan bertanya, atau berimprovisasi?
- Pelaporan: Adakah ringkasannya sepadan dengan log? Buat semakan rawak secara berkala.
- Kemalasan: Adakah ia berputus asa terlalu awal pada tugas yang sah? Jejaki kerja yang tidak lengkap sebagai metrik juga.
Jika makmal terdepan boleh memutuskan bahawa model yang lebih berkebolehan belum bersedia kerana ia gagal dalam soalan-soalan ini, pasukan pemasaran boleh menggunakan piawaian yang sama pada ejen yang diletakkannya di hadapan pelanggan dan bajet.
Soalan Lazim
Mengapakah OpenAI membatalkan GPT-6.1 Astra?
Menurut Al Jazeera, ketua sistem keselamatan OpenAI, Saachi Jain, berkata ujian dalaman menunjukkan model itu tidak memenuhi piawaian dalam mengikut kehendak manusia, khususnya dari segi skop dan kebenaran serta cara ia berkomunikasi semula dengan pengguna.
Bilakah OpenAI mengumumkan ia tidak akan mengeluarkan GPT-6.1 Astra?
OpenAI mengumumkan keputusan itu pada 29 September 2026, pada malam sebelum persidangan pembangun tahunannya, selepas berita itu mula-mula dilaporkan oleh The Wall Street Journal.
Apakah yang boleh dipelajari perniagaan daripada keputusan GPT-6.1 Astra?
Bahawa ejen AI perlu dinilai sama ada ia kekal dalam skop, bertindak hanya di tempat yang dibenarkan dan melaporkan dengan tepat apa yang dilakukannya, dan bahawa keseimbangan antara berhati-hati dan menyiapkan kerja memerlukan penalaan dan pemantauan yang disengajakan.
Sumber
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026