Yoshua Bengio.
Adını duymamış olabilirsiniz. Bir itirafta bulunayım ben de The Guardian’da yayımlanan röportajına kadar adını duymamıştım.
Bengio, yapay zekâ alanında dünyanın en yetkin isimlerinden biri. Derin öğrenmenin öncülerinden; Geoffrey Hinton ve Yann LeCun ile birlikte 2018 Turing Ödülü’nü aldı. Yani bugün yapay zekânın geldiği noktanın mimarlarından biri.
Ve şimdi aynı isim şunu söylüyor:
“Yapay zekâlara hak vermek büyük bir hata olur. Çünkü gelişmiş yapay zekâlar kendi kendini koruma belirtileri gösteriyor. Hak verirsek, onları kapatamayız.”
Durup sormak gerekiyor:
Bu ihtimal şimdi mi fark edildi?
2018’de ödül alırken, bu teknolojinin bir gün özerk davranışlar sergileyebileceği bilinmiyor muydu? Yapay zekânın güçleneceği, karar alma süreçlerine yaklaşacağı, hatta insan denetimini zorlayacağı akademik dünyada yıllardır tartışılmıyor muydu?
Sorun öngörü eksikliği değil.
Sorun, etik soruların sürekli ertelenmesi.
Bu tablo bize yabancı değil. Tarih bunun örnekleriyle dolu.
Amerikalı fizikçi Julius Robert Oppenheimer, atom bombasını geliştirirken büyük bir bilimsel başarıya imza attı. Ancak bu başarı, Hiroşima ve Nagazaki’de şehirlerin yok olmasına ve yüz binlerce insanın hayatını kaybetmesine yol açtı. Oppenheimer sonradan pişmanlık duydu; ama olan olmuştu.
Ortak nokta açık:
Bilim, “ne yapılabilir?” sorusunu büyük bir iştahla sorarken, “ne yapılmalı?” sorusu hep arkadan geldi.
Bugün yapay zekâya “hak” tartışmaları da aynı gecikmiş muhasebenin ürünü. Asıl mesele yapay zekânın hakları değil; insanlığın sorumlulukları. Kontrolden çıkmasından korktuğumuz şey, aslında kendi yarattığımız gücü yönetememe ihtimali.
Yapay zekâ kendi kendini korumaya başlıyorsa, bu bir teknolojik mucize değil; bir etik alarmdır. Bu alarm, yıllardır süren “önce yapalım, sonra düşünürüz” anlayışının sonucudur.
Bu noktada soruyu tersinden sormak gerekiyor:
Bilim insanları neden hep sonuçlar görünür hale geldikten sonra endişeleniyor?
Neden uyarılar, başarı hikâyelerinin ardından geliyor?
Belki de sorun yapay zekâda değil.
Sorun, bilginin gücünü bilgeliğin önüne koyan insan aklında.
Bilim, insanlığın yararına ne zaman çalışır?
İnsan, gücü değil sorumluluğu öncelediğinde.
Hızı değil vicdanı merkeze aldığında.
Bilim o gün gerçekten iyileştirici olur.
