Yapay Zeka Savaşı Kızıştı: Açık Kaynak Modelleri Tehdit Mi?
Silikon Vadisi’nde ortalık karışık. Nvidia CEO’su Jensen Huang’ın öncülüğünde 24 Temmuz’da imzalanan o ortak açık mektup, yapay zeka dünyasını ikiye böldü. “Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği” başlıklı bildiriye Meta’dan Microsoft’a, IBM’den Palantir’e kadar 25 dev imza atdı. Ama işin rengi başka… Anthropic’in CEO’su Dario Amodei dün resmi siteden bir açıklama yayımladı ve ortalığı daha da karıştırdı.
Bakın ne diyor Amodei: “Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı.” Bunu özellikle vurguluyor çünkü bazı kesimler onları suçluyormuş “kendi ticari çıkarını korumak adına yasak istiyor” diye. Ama işin aslı öyle değil işte… Amodei açıkcası “Tehlikeli kabiliyetler barındırmıyan açık ağırlıklı modeller kamu yararıdır” diyor.
Peki ama bu tartışma nereden çıktı? Gelişme şu: ABD’li yetkililer, Amerikan şirketlerinin Çin menşeli açık ağırlıklı modelleri kullanmasını yasaklamayı değerlendiriyormuş. Basına yansıyan haberler böyle. Bunun üzerine teknoloji firmaları birleşmiş ve o bildiriye imza atmış. Ama işin içinde başka birşey daha var…
Amodei’nin iki temel korkusu var, bunları altı ay önce yazdığı “Teknolojinin Ergenliği” makalesinde de anlatmıştı. Birincisi ve en önemlisi: Çin Komünist Partisi başta olmak üzere “otoriter rejimler” ABD’den daha güçlü yapay zeka modelleri inşa edebilir. Bununla kalıcı askeri üstünlük sağlayabilirler yada kendi halkı üzerinde baskı kurabilirler. Hatta ABD Başkan Yardımcısı Vance geçen yıl Paris’te “Otoriter rejimler askeri, istihbarat ve gözetleme kabiliyetlerini güçlendirmek için yapay zekayı çaldı ve kullandı” demişti.
İkinci korkusu ise daha ürkütücü… Güçlü yapay zeka modelleri siber saldırılar yada biyolojik saldırılar için kullanılabilir. Yani hani şu pandemi dönemindeki gibi ama çok daha kötüsü… Amodei bu konuda özellikle endişeli: “Yeterli kabiliyete sahip modeller salgın düzeyindeki virüsleri hızla silahlaştırabilir, savunma ise yıllar alabilir” diyor.
Neyse devam… Amodei aslında açık modellere tamamen karşı değil, ama bir takım önlemler alınması gerektiğini söylüyor. Üç maddelik bir tedbir paketi var:
Birincisi, gelişmiş çip kısıtlamaları ve kaçakçılıkla mücadele. Yani Çin’e güçlü çipler satılmamalı, kaçakçılık engellenmeli. Çünkü Amodei’ye göre Çin’in yerli üretim kapasitesi sınırlı, ABD çipleri olmadan daha güçlü modeller üretemezler.
İkincisi, sanayi ölçeğindeki distilasyon operasyonlarının engellenmesi. Distilasyon dedikleri şey model kopyalama ve küçültme yöntemi. Bu yöntem silikon kısıtlamalarının etrafından dolaşmaya imkan tanıyormuş. Distilasyon sayesinde Çin sınırı ABD sınırına birkaç ay kadar yaklaşabiliyormuş. Yani toptan yasak yerine hedefli müdahaleler lazım.
Üçüncüsü, zorunlu güvenlik testleri. İster açık ister kapalı olsun, yeterince gelişmiş tüm modeller piyasaya sürülmeden önce siber, biyolojik ve hizalanma risklerine karşı test edilmeli. Trump yönetimi de son aylarda bu yönde adımlar atıyormuş.
Ama işin ilginç tarafı şu: Amodei, açık mektuptaki pek çok görüşe katılıyor. “Açık ağırlıklar yapay zeka ekonomisine erişimi genişletiyor, rekabeti artırıyor” diyor. Ama güvenlik önlemleri geliştirmeyi kolaylaştırdığı yada geniş erişimin savunmacılara saldırganlardan daha fazla yarar sağladığı tezine katılmıyor.
Yani anlayacağınız, bu işin altından kalkmak kolay değil. Bir tarafta açık kaynağın getirdiği yenilikçilik ve yayılım, diğer tarafta ulusal güvenlik endişeleri. Huang “dünyanın hem öncü kapalı modellere hem de öncü açık modellere ihtiyacı var” derken, Amodei daha temkinli yaklaşıyor.
Bakalım bu tartışma nerelere varacak. Amerikan şirketleri Çin menşeli modelleri kullanmaya devam edecek mi? Yoksa yasak mı gelecek? Anthropic’in bu açıklamasından sonra ortalık biraz durulur mu, yoksa işler daha da kızışır mı? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
