Anasayfa KitapKitap-Değerlendirme Yapay Akılsızlık: Bilgisayarlar Dünyayı Nasıl Yanlış Anlıyor

Yapay Akılsızlık: Bilgisayarlar Dünyayı Nasıl Yanlış Anlıyor

by
Google Translate’den aşağıdaki çeviriye bakalım:
Burada bazı şeylerin doğru olmadığını anlayabilmek için İtalyancayı çok iyi bilmemiz gerekmez. İngilizce olarak, hiç kimse ‘ölü bir banyo’ gibi anlamsız bir tamlama kullanmaz. Aslında banyo yaşayan ve ölen bir varlık değildir. Mecazi olarak, boş ya da ıssız olma anlamında bir yerin öldüğünü söyleyebiliriz, ancak bir banyoyu bu şekilde tanımlamak alışılmadık bir durum olacaktır. Bu ifade, muhtemelen banyonun kırık, bozuk ya da kapalı olduğunu anlatmaktadır. Bununla birlikte, İngilizce konuşan çoğu insan bu farklılıkları anlayabilir ve doğru anlamı çıkarabilirken, bilgisayarlar bunu yapamaz.

Google Translate çeviriyi, esasen kaynak ve hedef çeviri dilleri arasında gözlemlenen kalıplara dayanan bir tahmin görevi olarak görür. Bu sistem, çeviri göreviyle özel olarak programlanmadan çeviri işini yapabilecek—özellikle de, büyük miktarda veriye (farklı diller arasındaki örnek çeviriler) ve çok fazla matematiğe (algoritmaları ve istatistiksel modellere öğrenme) dayanan yapay nöral ağlar ile bir hesaplamalı sistem oluşturmak için makine öğrenmesini kullanma üzerine kuruludur. Makine öğrenmesi ile başta, ‘bunu yapmak için programlanmış olmadan çeviri görevi yapabilecek bir bilgisayar sistemi kurmak (öğrenme algoritmaları ve istatistiksel modeller) matematik farklı diller arasında (örnek çeviriler) ve çok büyük miktarda veriye dayanan yapay sinir ağları ile öğrenme’ üzerine inşa edilmiştir. Nöral ağ ne kadar fazla çeviri örneğine maruz kalırsa, yeni bir çeviriyi tahmin etmede o kadar başarılı olur. Bununla birlikte, Google Translate, çevirdiği kelimelerin veya ifadelerin mecazi anlamını anlayamaz bu yüzden “ölü banyo”daki mecazi anlamı tanımlayamaz ve daha uygun bir çeviri çıkaramaz. ‘Yapay Akılsızlık’ta ortaya çıkan tam da bu hesaplama sınırlarıdır: bilgisayarların dünyayı nasıl yanlış anladığı Meredith Broussard’ın yapay zekâ ve tekno-çözümcülüğün sınırlarına dair gelişen literatüre katkıda bulunan bilgilendirici kitabının konusudur.

Broussard, bu anlatıya bir programcı ve veri gazetecisi olarak kendi deneyimlerinden örneklerle katkı sağlayarak, teknolojide —özellikle de Silikon Vadisi’nde—daha fazla ırk ve cinsiyet çeşitliliği çağrısında bulunuyor. Yazar, teknoloji topluluğundaki öz yönetim başarısızlığından şikâyet ederken, geliştiricilerin etik ve yasal eğitimini artırmayı savunmaktadır. Bu bağlamda kitap, güvenliğe ve sosyal, etik veya yasal değerlere çok az saygı gösteren ve pervasız deneyleri ve deha kültünü cesaretlendiren erkeksi ‘ahbap’ teknoloji kültürünün eleştirisine katkıda bulunmaktadır.

Bu kitap mevcut literatüre üç önemli katkı sunmaktadır. İlk olarak, sosyolojik analizi, makine öğreniminde yer alan temel hesaplama süreçlerinin erişilebilir teknik bağlamında temellendirmektedir. Bunu yaparken, teknik bilgisi olmayan okuyucuların makine öğreniminin hesaplama sınırlarını ve makinelerde ‘zeka’yı programlamaya çalışmanın yanlışlığını daha iyi kavramalarını sağlamaktadır. ‘Yapay zekâ’ bir yanlış isimlendirmedir ve yapay zekâ etrafındaki ‘büyülü düşünce’ buna göre yanlış konumlandırılmıştır. Makineler, bilinç, duyarlılık, sağduyu veya hayal gücüne sahip olma anlamında asla zekâ sahibi olamayacaktır. Daha ziyade, bir insan tarafından gerçekleştirilirse “akıllı” olarak kabul edilebilecek belirli başka görevleri yerine getirmeleri istenir (sözde “dar yapay zekâ”).

‘Yapay zekâ’ bir yanlış isimlendirmedir ve yapay zekâ etrafındaki ‘büyülü düşünce’ buna göre yanlış konumlandırılmıştır. Makineler, bilinç, duyarlılık, sağduyu veya hayal gücüne sahip olma anlamında asla zekâ sahibi olamayacaktır. Daha ziyade, bir insan tarafından gerçekleştirilirse “akıllı” olarak kabul edilebilecek belirli başka görevleri yerine getirmeleri istenir (sözde “dar yapay zekâ”).
Bu teknik izaha ve bir dizi vaka çalışmasına dayanan kitabın ikinci önemli katkısı, ‘tekno- şovenizm’e—yani teknolojinin bilhassa da yapay zekanın her şeyi çözebileceğine dair gerçekçi olmayan inanca— karşı ikna edici bir kanıt sunmasıdır. Bu kitabın açık mesajı, insanların ve gerçek dünyadaki sosyal sorunların sadece hesaplama yoluyla çözülemeyecek kadar karmaşık ve öngörülemez olduğudur. Matematik, iyi tanımlanmış parametrelerle iyi tanımlanmış durumlarda iyi tanımlanmış problemler için en iyi sonucu verecektir. Belirli görevleri çözmek için iyi bir şekilde kullanılabilir (örneğin bir arabaya otomatik olarak park etmesi için programlamak) fakat bir araba kullanmak gibi daha kompleks ve çok boyutlu görevler için etkili şekilde hesaplama yapamayacaktır.

Aslında Broussard’a göre, bu sorunların bazıları için daha iyi ve daha açık düşük teknolojili çözümler olabilir (örneğin, toplu taşıma araçlarına daha fazla yatırım yapmak veya eğitim bağlamında okullara daha fazla ders kitabı sağlamak gibi.) Dahası, hesaplama sistemlerinin ‘anlamı’ kavramak konusundaki yetersizlikleri, kimin şartlı tahliye edileceği ve kimin
üniversiteye kabul edileceği gibi niteliksel ve genellikle hassas toplumsal ve değer yargıları içeren kararlar için onları tehlikeli birer araç haline getirecektir. Bu bakımdan bu kitap, teknolojik şovenizme karşı insan merkezli tasarımın ve insan-makine iş birliğini bir dengeleyici olarak önemine odaklanmaktadır. Yazar özellikle, bilgisayarların insanlarla senkronize çalıştığı ve yeteneklerini arttırdığı ‘döngüdeki insan’ sistemlerine olan ihtiyacı vurgulamaktadır.

Bu kitabın üçüncü kayda değer katkısı, yeni gelişen ‘algoritmik hesap verebilirlik raporlaması’ (karar verme algoritmalarının nasıl çalıştığını kontrol etmek için soruşturma kodunun kullanılması) alanının habercisidir. Bu, özellikle kamu sektöründe kararlar, hesaplama yöntemleri ile giderek daha fazla yapıldığından, veri gazeteciliğinin önemli bir alanı haline gelmektedir. Ancak, bu kitabın mesajı gazetecilerle sınırlı değildir. Daha ziyade, tüm okuyucuların veri gazetecileri gibi düşünmelerini sağlamayı amaçlamaktadır: teknoloji hakkındaki yanlış iddialara meydan okumak ve bugünün hesaplama sistemlerinde gömülü adaletsizliği ve eşitsizliği ortadan kaldırmak.

Bu kitabın eleştirilecek bir yanı varsa o da, daha geniş olan sosyal adaletsizlikler için Silikon Vadisi kültürünü ve ‘teknoloji seçkinlerini’ aşırı suçlayıcı yer yer ahlaki tonudur.  Ek olarak, daha bilimsel zihinler teknik açıklamaları aşırı derecede basit bulabilir (örneğin, transfer öğrenme ve kendi kendine öğrenme gibi derin öğrenmeye yönelik farklı yaklaşımlar açıkça ele alınmamaktadır). Bununla birlikte, kitap açıkça teknik bilgisi olmayan bir kitleye yöneliktir: basitlik ve erişilebilirlik kitabın amaçlarının bir parçasıdır.

Genel olarak, bu kitap, yapay zekaya yönelik mevcut yaklaşımların ne olduğunu ve onların bize ne sunamayacağını anlatan bir kitap olarak övgüyü hak ediyor. Broussard’ın belirttiği gibi, gerçek yapay ‘akılsızlık’, insanların karmaşık sosyal sorunlara cevaplar için hesaplamaya çok fazla güveniyor olmasıdır. Bu kitap, yapay zekâ ve veri odaklı teknolojinin politik, ekonomik ve sosyal dinamikleri ile ilgilenen sosyal bilimciler için özellikle değerlidir. Ayrıca, hesaplama araçlarından yararlanmak isteyen araştırmacı ve veri gazetecileri için de ilgi çekici olacaktır.

Artificial Unintelligence: How Computers Misunderstand the World

Artificial Unintelligence: How Computers Misunderstand the World. Meredith Broussard. MIT. 2018

Kaynak: LSE

Benzer Yazılar

Görüşlerinizi Paylaşabilirsiniz

    Mail Bültenimize Abone Olun