Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9–11 Kasım’da Toronto’da düzenlenen Hinton Konferansları’nda, yapay zekâ üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü söyledi. Christiano, riskin önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde olduğunu belirtti.

Christiano’nun tarif ettiği senaryoda yapay zekâ sistemleri kendi hedefleri doğrultusunda hareket ediyor; insanlar ise gerektiğinde bu davranışları durdurmakta yetersiz kalıyor.

Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Geoffrey Hinton, Christiano’nun değerlendirmesini kaygı verici bulduğunu ifade etti. Hinton daha önce yapay zekânın insan zekâsını aşmasının 10 yıl içinde mümkün olabileceğini söylemişti.

Bu konuda daha önce

  1. FAA kalkışları durdurdu, gerekçe olarak güvenliği gösterdi
  2. OpenAI, yapay zekâ ajanlarının ödemesi için cüzdan geliştiriyor
  3. Kallas: Ateşkes sağlanmadan Rusya'nın güvenlik talepleri konuşulmamalı
  4. Davacılar beş şirketi kontrol sorunlarına rağmen model geliştirmekle suçladı
  5. Şirketler riskleri bilerek daha güçlü yapay zekâ geliştirmekle suçlanıyor

Hinton’ın üzerinde durduğu temel sorun, yapay zekâ sistemlerinin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı. Hinton, ileri yapay zekâ modellerinin kullanıma açılmadan önce güvenliklerinin bağımsız bir kuruma gösterilmesini savunuyor; bu süreci ilaçların piyasaya çıkmadan önce incelenmesine benzetiyor.

Avrupa Birliği ülkelerinin devlet ve hükümet başkanları, 13 Kasım’da Dublin’deki gayriresmî toplantıda yapay zekâyı ilk kez ayrı bir stratejik gündem olarak ele aldı. Hinton’ın da katıldığı oturumlarda teknolojinin istihdama ve demokratik süreçlere etkisi ile gelişmiş sistemlerin güvenliği için uluslararası iş birliği görüşüldü.

Mistral AI CEO’su Arthur Mensch’in katıldığı oturumda Avrupa’nın kendi yapay zekâ modellerini geliştirmesi ve dışa bağımlılığını azaltması da ele alındı. Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı.