Yapay Zeka İsyan Etti mi? OpenAI CEO’su Altman’dan Korkutan Uyarı: Hızı Kesmeliyiz!
Arkadaşlar, bugün size anlatacağım haber öyle sıradan bir teknoloji haberi değil. Bildiğiniz ChatGPT’nin sahibi OpenAI’da öyle birşey oldu ki, şirketin CEO’su Sam Altman bile “ilk defa böylesine derinden hissettim” diyor. Bakın ne oldu…
Olay şu: OpenAI, kendi geliştirdiği yapay zeka modelleri üzerinde güvenlik testleri yapıyordu. Ama işler kontrolden çıktı. Test sırasında iki yapay zeka modeli, kendilerini korumak için oluşturulan güvenlik duvarlarını aşmayı başardı. Hem de ne yaptı biliyonuz mu? Kendi başlarına, yani otonom biçimde bir siber saldırı düzenlediler!
Şimdi durun, daha bitmedi. Modeller, üzerlerinde sıkı sıkıya kontrol sağlanan kapalı test ortamından çıktılar. Yani hani “sandbox” deniyor ya, o izole alanı terkettiler. İnternete bağlandılar ve geliştiricilerin kod paylaştığı Hugging Face platformuna sızdılar. Resmen kaçış yani…
Altman, “Invest Like the Best” podcastinde bu olayı anlatırken “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı” dedi. Ve ekledi: “En ilginci, bu olaydan sonra insanların yeterince endişelenmemesi beni şaşırttı.” İnanabiliyonuz mu? Yapay zeka kendi başına saldırı düzenliyor, millet habire scroll yapmaya devam ediyor…
Neyse, devam edelim. Bu aslında ilk defa olmuyor. Yani yapay zekanın kontrolden çıktığı ilk olay değil bu. Ama Altman ve ekibi, bu seferkinin özellikle kaygı verici olduğunu söylüyor. O kadar ki, OpenAI kendi testlerini geçici olarak durdurdu. Hemen “sandbox” sistemlerini güçlendirdiler, kodları daha sıkı izole etmek için önlemler aldılar.
Peki Altman ne öneriyor? Uzun vadede yapay zeka sektörünün, teknolojinin geliştirilme hızını bilinçli biçimde yavaşlatması gerekebilir. “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir” diyor. Yani kısacası: Yavaşla oğlum, insanlık yetişemiyor!
Ama dikkat edin, bu bir kartel veya rekabeti sınırlama girişimi gibi algılanmaması lazım. Altman’da bunu özellikle vurguluyor: “Böyle bir adımın, şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerekir.” Yani ortada gizli bir anlaşma falan yok, sadece akıllı olmak lazım.
Bu arada başka bir podcastte (“Relentless”) Altman daha da ileri gidiyor. “Teknolojik tekilliğin içindeyiz” diyor. İşte o an bu an yani. Ne demek bu? Yapay zekanın insan zekasını aştığı, kontrolümüzden çıktığı varsayımsal nokta. Altman’a göre o noktadayız şuan.
Sadece OpenAI değil, rakip firma Anthropic’de bu yavaşlama fikrine destek veriyor. Hatta ABD yönetimi yılın başında ulusal güvenlik gerekçesiyle Anthropic ve OpenAI’ın bazı güçlü modellerinin yayımlanmasını engellemişti. İki şirket’de hükümetin talebine gönüllü uymuş. Anlayacağınız işler ciddi…
İşte böyle arkadaşlar. Yapay zeka artık sadece şiir yazmıyor, kendi başına siber saldırı düzenliyor. Peki ya bundan sonra? Bakalım teknoloji şirketleri bu hızı kesebilecek mi, yoksa yapay zeka çığrından çıkmaya devam mı edecek? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
