OpenAI'de güvenlik baştan aşağı değişmiş.
OpenAI Güvenlik Organizasyonunda Kapsamlı Değişikliğe Gitti
openai, güvenlik yapısını yeniden düzenleyerek güvenlik sistemleri başkanı johannes heidecke ile yollarını ayırdı ve güvenlik ekiplerini araştırma organizasyonuyla birleştirdi. amaç, yapay zeka geliştirme sürecinde güvenliği erken aşamalara taşımak.
openai, güvenlik organizasyonunda kapsamlı bir değişikliğe giderek güvenlik sistemleri başkanı johannes heidecke’nin şirketten ayrılacağını duyurdu. şirket, yeniden yapılanma kapsamında güvenlik ekiplerini araştırma organizasyonuyla aynı yapı altında birleştiriyor. yeni model, yapay zekâ sistemlerinin geliştirilme sürecinde güvenlik değerlendirmelerinin daha erken aşamalara taşınmasını amaçlıyor. güvenlik ekipleri araştırma organizasyonuna bağlanıyor openai çalışanlarına gönderilen şirket içi bilgilendirmede johannes heidecke’nin görevinden ….
OpenAI, güvenlik organizasyonunda kapsamlı bir değişikliğe giderek Güvenlik Sistemleri Başkanı Johannes Heidecke’nin şirketten ayrılacağını duyurdu. Şirket, yeniden yapılanma kapsamında güvenlik ekiplerini araştırma organizasyonuyla aynı yapı altında birleştiriyor. Yeni model, yapay zekâ sistemlerinin geliştirilme sürecinde güvenlik değerlendirmelerinin daha erken aşamalara taşınmasını amaçlıyor.
Güvenlik Ekipleri Araştırma Organizasyonuna Bağlanıyor
OpenAI çalışanlarına gönderilen şirket içi bilgilendirmede Johannes Heidecke’nin görevinden ayrılacağı açıklandı. LinkedIn bilgilerine göre 2021 yılında şirkete katılan Heidecke, son yıllarda güvenlik sistemlerinin oluşturulması ile güvenlik politikalarının geliştirilmesinde önemli sorumluluklar üstlenmişti. Şirket, ayrılığın ardından geçiş sürecini mevcut kadro üzerinden yönetecek. Daha önce OpenAI bünyesindeki güvenlik ekiplerine liderlik eden Saachi Jain, yeni atama tamamlanıncaya kadar geçici Güvenlik Sistemleri Başkanı olarak görev yapacak.
Yeniden yapılanma kapsamında güvenlik ekipleri, Araştırma ve Güvenlikten Sorumlu Başkan Yardımcısı görevine getirilen Mia Glaese’ye bağlı çalışacak. OpenAI böylece güvenlik değerlendirmelerini araştırma ekiplerinden ayrı ilerleyen bir süreç olmaktan çıkararak model geliştirme döngüsünün doğrudan parçası hâline getiriyor.
Şirketin Baş Araştırma Sorumlusu Mark Chen, güvenlik çalışmalarının gelişmiş yapay zekâ modelleriyle birlikte ilerlemesinin kritik önem taşıdığını ifade etti. Chen’e göre bu organizasyon modeli sayesinde temel model geliştirme, ürün tasarımı ile yeni sürümlerin yayımlanmasına ilişkin kararlar daha erken aşamalarda güvenlik bakış açısıyla değerlendirilecek.
Organizasyon değişikliği, kısa süre önce kullanıma sunulan GPT-5.6 modelinin ardından gerçekleşti. Modelin yayımlanmasından sonra yapılan yönetim düzenlemesi, şirketin yapay zekâ güvenliği alanındaki çalışma biçimini yeniden şekillendiren adımlardan biri olarak değerlendiriliyor. OpenAI, yeniden yapılanmaya rağmen yüksek etkili yapay zekâ risklerine odaklanan Head of Preparedness görevini koruyor. Şirket, bu pozisyon aracılığıyla gelişmiş modellerin oluşturabileceği olası risk senaryolarını önceden analiz etmeyi, hazırlık planları geliştirmeyi amaçlıyor.
OpenAI CEO’su Sam Altman, yılın başında yaptığı açıklamada hazırlık ekibinin amacının yüksek etkili riskleri önceden belirlemek ile bu risklerin etkisini azaltacak süreçleri geliştirmek olduğunu paylaşmıştı. Son organizasyon değişikliği de şirketin güvenlik çalışmalarını yalnızca son test aşamasında değil, model geliştirme sürecinin tamamına yayma yaklaşımını güçlendiriyor.
Yapay zekâ sektöründe modeller daha gelişmiş yetenekler kazandıkça güvenlik ekiplerinin araştırma organizasyonlarıyla daha yakın çalışması yaygınlaşan bir eğilim hâline geliyor. OpenAI’ın attığı adımın, önümüzdeki dönemde diğer büyük yapay zekâ şirketlerinin organizasyon yapılarını da etkileyebilecek örneklerden biri olması bekleniyor.