OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zekâ sistemlerinin önümüzdeki birkaç yılda kendi gelişim süreçlerine giderek daha fazla katkı sağlayabileceğini ve bunun ciddi güvenlik riskleri doğurabileceğini söyledi.
Pachocki, OpenAI’ın hizalama, düşünce zinciri izleme ve savunma sistemlerine odaklandığını; ancak mevcut yöntemlerin daha güçlü modelleri güvenle denetlemek için henüz yeterli olmadığını belirtti. OpenAI’ın değerlendirmesine göre hiçbir laboratuvar, yapay zekâyı uzun süre maksimum hızda ölçeklemek için gereken güvenlik seviyesine ulaşmış değil ve ortak standartlar oluşturulana kadar gönüllü yavaşlamalar gerekebilir.