Anthropic CEO’su Dario Amodei, açık ağırlıklı yapay zekâ modellerinin yasaklanmasını desteklemediğini açıkladı. Amodei’ye göre asıl tehdit, otoriter devletlerin daha güçlü modeller geliştirerek kalıcı askerî ve teknolojik üstünlük kurması.

Anthropic Kurucusu ve CEO’su Dario Amodei, şirketinin açık ağırlıklı yapay zekâ modellerinin yasaklanmasını savunduğu yönündeki iddialara yanıt verdi. Amodei, Anthropic’in bugüne kadar böyle bir yasağı desteklemediğini ve tehlikeli kabiliyetlere sahip olmayan açık modelleri “kamusal fayda” olarak gördüğünü belirtti.

Açıklama, Nvidia CEO’su Jensen Huang’ın aralarında Hugging Face, Meta, Microsoft, Mistral ve Nvidia’nın da bulunduğu teknoloji şirketleriyle birlikte yayımladığı açık mektubun ardından geldi. Mektupta politika yapıcılara, açık ağırlıklı modeller için kapsamlı ve erken kısıtlamalar getirilmemesi çağrısı yapılmıştı.

Amodei, açık modellerle Çin kaynaklı yapay zekâ risklerinin aynı başlık altında değerlendirilmemesi gerektiğini savundu. Ona göre işletmelerin, geliştiricilerin ve araştırmacıların tehlikeli yetenekler taşımayan açık modelleri kullanması başlı başına bir güvenlik tehdidi oluşturmuyor.

Anthropic CEO’sunun temel endişesi, otoriter yönetimlerin ABD’de geliştirilen sistemlerden daha güçlü yapay zekâ modelleri üretmesi. Amodei, bu modellerin askerî üstünlük sağlamak, toplumları daha sıkı biçimde kontrol etmek veya devlet baskısını güçlendirmek için kullanılabileceğini düşünüyor.

Amodei, bu konudaki en büyük riskin Çin Komünist Partisi olduğunu belirtirken Çin’in endişe duyduğu tek otoriter yönetim olmadığını da vurguladı. Çin’i diğer ülkelerden ayıran unsurun ise güçlü teknoloji altyapısı ve ileri seviye modeller geliştirme kapasitesi olduğunu ifade etti.

Açık modeller tehlikeli yeteneklere ulaştığında risk büyüyor

Amodei’ye göre açık ağırlıklı modeller, biyolojik saldırılar veya gelişmiş siber saldırılar gerçekleştirebilecek seviyeye ulaştığında daha büyük bir güvenlik sorunu yaratabilir. Çünkü bu modeller indirildikten sonra kullanımlarını izlemek, yeni güvenlik önlemleri eklemek veya erişimi geri çekmek son derece zorlaşıyor.

Anthropic CEO’su, yayımlanan açık ağırlıkların sonradan tamamen geri alınamayacağına dikkat çekti. Bu görüşünü, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü tarafından yayımlanan bir rapora dayandırdı.

Bu yaklaşım, açık kaynak savunucularının görüşleriyle çelişiyor. Açık model destekçileri, güçlü sistemlere geniş erişimin yalnızca saldırganların değil, güvenlik araştırmacılarının ve savunma ekiplerinin de kapasitesini artıracağını savunuyor.

Çin’in gelişmiş çiplere erişiminin sınırlandırılmasını istiyor

Amodei, Çin’in yapay zekâ alanındaki ilerlemesini yavaşlatmak için gelişmiş çiplere erişiminin sınırlandırılması gerektiğini söyledi. Bu yaklaşım, ABD’nin uzun süredir Çin’e uyguladığı ileri seviye yarı iletken ihracat kısıtlamalarıyla örtüşüyor.

Amodei ayrıca model distillation yöntemine karşı daha sert önlemler alınmasını savundu. Distillation sürecinde bir yapay zekâ modeli, başka bir modele çok sayıda soru yönelterek onun davranışlarını ve yeteneklerini taklit etmeye çalışıyor.

ABD merkezli yapay zekâ şirketleri, Çinli laboratuvarların bu yöntemi kullanarak Amerikan modellerinden izinsiz biçimde faydalandığını öne sürüyor. ABD yönetimi de fikrî mülkiyet ihlali tespit edilmesi halinde Çin’e yönelik yeni yaptırımlar uygulanabileceğinin sinyalini vermişti.

Küresel yapay zekâ güvenlik testleri önerdi

Dario Amodei, dünyanın en güçlü yapay zekâ modellerinin bağımsız güvenlik testlerinden geçirilmesini sağlayacak uluslararası bir sistem kurulmasını da desteklediğini açıkladı.

Amodei’ye göre bu testler, modelin hangi ülkede geliştirildiğine veya açık ya da kapalı ağırlıklı olmasına bakılmaksızın en ileri seviye sistemlere uygulanmalı. Daha düşük kapasiteye sahip akademik ve erken aşama girişim modelleri ise kapsam dışında bırakılabilir.

Ancak bu sistemin etkili olabilmesi için yalnızca ABD ve Avrupa ülkelerinin değil, Çin’in de sürece dahil olması gerekiyor. Amodei, biyolojik silahların yapay zekâyla geliştirilmesini önleme gibi sınırlı alanlarda Çin ile iş birliğinin mümkün olabileceğini düşünüyor.

Anthropic CEO’sunun açıklamaları, yapay zekâ sektöründeki tartışmanın açık ve kapalı modeller arasındaki rekabetten daha karmaşık bir noktaya taşındığını gösteriyor. Tartışmanın merkezinde artık yalnızca model erişimi değil; modelin sahip olduğu yetenekler, kullanım amacı ve bu yeteneklerin hangi aktörlerin kontrolünde olduğu bulunuyor.

FounderN, Türkiye’nin girişim ve teknoloji haber platformudur.

LinkedIn | Instagram | FounderN 09:13 Bülteni | FounderN Daily | FounderN AI Daily