Yapay zekâ dünyasındaki gelişmeleri ve son dönemde giderek artan tartışmaları yakından takip ediyorum. Dikkat çekici olan şu: Bugün yapay zekânın geldiği noktada doğrudan pay sahibi olan bazı isimler bile artık gelişimin hızı, güvenlik ve kontrol konusunda daha yüksek sesle endişelerini dile getiriyor.
“Çok hızlı mı ilerliyoruz?”, “Bir noktada yavaşlamamız mı gerekiyor?”, “Geliştirdiğimiz sistemler üzerindeki kontrolümüzü kaybedebilir miyiz?” gibi sorular artık yalnızca bilimkurgu senaryolarının konusu değil.
Peki gerçekten yapay zekâyı mı yavaşlatmalıyız? Yoksa asıl tartışmamız gereken, yapay zekâya ne kadar yetki ve kontrol verdiğimiz mi?
Ben yapay zekâ karşıtı değilim. Tam tersine, Markam Sen olarak geliştirdiğimiz MarkamSenAI’ı aktif olarak kullanıyoruz. Ben de günlük çalışma hayatımda yapay zekâdan yoğun biçimde yararlanıyorum. Dolayısıyla mesele yapay zekânın gelişimini durdurmak değil. Bence asıl mesele, teknolojinin gücü arttıkça ona verdiğimiz yetkinin sınırlarını doğru belirlemek.
Çünkü çok kısa bir süre öncesine kadar yapay zekâyla ilişkimiz oldukça basitti: Biz soruyorduk, o cevap veriyordu.
Şimdi ise bu ilişki değişiyor.
AI ajanları yalnızca sorularımıza cevap üretmiyor. Bir hedefi alabiliyor, plan oluşturabiliyor, farklı araçları kullanabiliyor, işlem gerçekleştirebiliyor ve bazı görevleri başka ajanlara dağıtabiliyor.
Başka bir ifadeyle yapay zekâ, “bilen sistem” olmaktan çıkıp “hareket eden sistem” haline geliyor.
Bence kritik eşik de burada başlıyor.
Bir şirket düşünün. Yapay zekâ pazarlama verilerine erişiyor, müşteri davranışlarını analiz ediyor, reklam bütçelerini yönetiyor, fiyatlandırmaya müdahale ediyor, müşterilerle iletişim kuruyor ve tedarik süreçlerinde karar alabiliyor. Üstelik bütün bunları gerçekleştirebilmek için farklı sistemleri veya başka AI ajanlarını da devreye sokabiliyor.
İlk bakışta olağanüstü bir verimlilik.
Ancak yetki alanı genişledikçe çok önemli iki soru ortaya çıkıyor: Kararı kim veriyor ve yanlış bir karar verildiğinde sistemi kim durduruyor?
Bir de güvenlik boyutu var.
Çok güçlü bir yapay zekâ sistemi kusursuz çalışsa bile bağlı olduğu altyapının kusursuz olduğunu varsayamayız. Hesaplar, sunucular, API’ler, veri tabanları…Sistemin bağlı olduğu zincirin herhangi bir halkasında güvenlik ihlali yaşanabilir.
Bu durumda yapay zekâya ne kadar geniş yetki verdiysek, ortaya çıkabilecek etkinin boyutu da o kadar büyüyebilir.
Dolayısıyla geleceğin güvenlik tartışması yalnızca “Yapay zekâya güveniyor muyuz?” sorusuyla sınırlı kalmamalı. “Yapay zekânın erişebildiği sistemlerin tamamına ne kadar güveniyoruz?” sorusunu da sormalıyız.
Ben çözümün yapay zekânın gelişimini durdurmak olduğuna inanmıyorum. Yapay zekâ gelişecek. AI ajanları daha yetenekli hale gelecek. Otonom sistemler hayatımızda çok daha fazla yer alacak.
Asıl yapmamız gereken, insanın hangi noktalarda sistemin içinde kalacağına bugünden karar vermek.
Yapay zekâ analiz edebilir, planlayabilir ve belirli görevleri uygulayabilir. Ancak finansal işlemler, kritik kararlar, hassas verilere erişim veya geri dönüşü zor adımlar söz konusu olduğunda son onayın insanda kalması giderek daha önemli hale geliyor.
Belki de geleceğin en değerli güvenlik mekanizması yeni bir algoritma değil, insan onayı olacak.
Ve belki de geleceğin asıl sorusu, yapay zekânın insandan daha zeki olup olmayacağı değil.
Asıl soru şu:
İnsan, kendi yarattığı zekâya hangi yetkileri vermemesi gerektiğini bilecek kadar akıllı olacak mı?