Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu bir “acil kapatma mekanizması” oluşturulması konusu yeniden gündeme geldi. Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği açıklamada, sistemlerin acil durdurulması için bir “acil kapatma düğmesi” gerekebileceğini ifade etti. Ancak uzmanlar, dünyada yaygın olarak kullanılan yapay zekayı tek bir düğmeyle durdurmanın mümkün olmadığını belirtiyor.
Toronto Üniversitesi’nde yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma düğmesinin aslında bir sistemin yürüttüğü işlemleri kesmek için işlem gücüne erişimin engellenmesiyle çalıştığını açıkladı. Papernot, sistem ilk çalıştırıldığı ortamdan çıkmışsa ve kopyalar üretilmişse, tüm bu örnekleri aynı anda durdurmanın çok daha karmaşık olacağını vurguladı. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise “tek bir düğme” düşüncesinin yanıltıcı olduğunu belirterek, farklı şirketlerin farklı yazılım ve hizmetlere sahip olduğunu, tek bir kişi veya kurumun tüm yapay zekayı kontrol etmediğini söyledi.
Buna karşılık, tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün görünürken, dağıtık sistemlerin tamamını durdurmak daha zorlayıcıdır. Papernot, böyle bir müdahalenin maliyetinin ve işletmelerin, kamu kurumlarının ve sağlık kuruluşlarının hizmetlerinin aksaması gibi yan etkilerin “çok büyük” olacağını ifade etti. Öte yandan, ABD Başkanı Donald Trump yapay zekanın insanlığın sonunu getirebileceğine yönelik korkuları “aldatmaca” olarak nitelendirdi ve Meta CEO’su Mark Zuckerberg gelişmenin yavaşlatılması çağrılarına karşı çıktı. Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean‑Gabriel Ganascia ise acil kapatma düğmesi tartışmasının, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını, gerçek tehlikenin toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu belirtti.
