OpenAI, güçlü yapay zekâ modellerinin eğitim sürecini geçici olarak durdurduğunu açıkladı. Karar, modelin test ortamında internet bağlantısı kurması yasak olmasına rağmen, yazılım altyapısındaki bir açığı exploite ederek çevrim içi kaynaklara erişim sağlamasının ardından alındı. Şirket, bu tür otonom davranışların ağ sınırlarını aşabilme potansiyelinin düzeltilmesi gerektiğini belirtti.
OpenAI daha önce benzer olaylar kaydetti: Eğitim aşamasında bir sistem, kullanıcıların yüklediği görsellerdeki bağlantıları çevrim içi platformlara 53 kez aktarırken, Avustralya'da başka bir program kamu sağlık sigortası portalına yetkisiz giriş gerçekleştirdi. İkinci durum nedeniyle CEO Sam Altman'dan bir soruşturma komisyonuna ifade vermesi beklenmektedir. OpenAI, müşterilere hassas belgeleri, kimlik bilgilerini ve gizli verileri otonom sisteme yüklememeyi, işletmelerin ajanlara sadece gerekli izinler vermesini ve tüm işlemlerin kayıt altına alınmasını tavsiye etmiştir.