Dünyanın en popüler yapay zekâ modeli ChatGPT’nin geliştiricisi OpenAI, Mayıs ayında bir güvenlik kurulu kurmuştu. Yöneticiler ve uzmanlardan oluşan bu grubun amacı, şirketin proje ve operasyonlarında güvenlik konusunda “kritik” olarak nitelendirilen kararları almak ve önerilerde bulunmaktı.
Kurulun yöneticileri arasında 2 yönetim kurulu üyesine ek olarak şirketin CEO’su Sam Altman da yer alıyordu. Ancak dün gelen bir açıklama, Altman’ın artık ekipte yer almayacağını ortaya koydu.
Ekip tarafsız olmamakla suçlanıyordu
OpenAI tarafından paylaşılan blog gönderisine göre güvenlik ekibi, artık bağımsız bir denetim grubu olacak. Grubun başkanlığını Profesör Zico Kolter yapacak. Ona ek olarak Quora CEO’su Adam D’Angelo, eski ABD Ordusu Generali Paul Nakasone ve eski Sony yöneticisi Nicole Seligman da ekipte yer alacak. Hepsinin şirketin yönetim kurulunda yer aldığını belirtelim.
Ekibe liderlik Sam Altman da bu kapsamda ekipten ayrılacak. Altman’ın ekipte yer almasının eleştirildiğini belirtmek gerek. Birçok kişi, bunun kararları etkileyeceğini ve ekibin “tarafsız” olmasının zor olacağını düşünüyordu. Bunun dışında beş ABD senatörü de temmuz ayında şirketin politikaları hakkında endişelerini dile getirmiş ve konu hakkında Altman’a bir mail göndermişti.
OpenAI’a göre grup, Altman’ın ayrılmasının ardından şirketin geçtiğimiz günlerde yayımlanan yeni model ailesi o1 için bir güvenlik incelemesi de yaptı. Ekibin şu anki ve gelecekteki modeller hakkında değerlendirmeler yapmaya devam edeceği de açıklamalara eklendi.
OpenAI’ın güvenlik konusunda tartışmalı bir şirket olduğunu da söylemeden geçmemek gerekiyor. Öyle ki şu ana kadar şirkette yapay zekânın uzun vadede güvenliği üzerinde çalışan kişilerin yarısına yakını bu konuda yeterli adım atılmadığını gördüğü için görevinden ayrıldı. Bunlardan biri kurucuları arasında yer alan Ilya Sutskever iken bir diğeri ise araştırmacı Jan Leike’ydi. Leike, şirketin güvenliği ikinci plana attığı iddiasıyla istifa etmişti.
