Yale Siber Liderlik Forumu, “Suni Zeka Etiği ve Güvenliği” temalı münakaşaya ev sahipliği yapmış oldu



Pexels

Yale Siber Liderlik Forumu, bu senenin son oturumunu geçen Cuma günü AI Etiği üstüne iki açık oturum tartışmasıyla gerçekleştirmiş oldu.

Bu yılki forumun başlığı “Bölünmeyi Birleştirmek: Suni Zekanın Ulusal Güvenlik Tesirleri” ve hukuk, siyaset ve teknoloji arasındaki boşluğu kapatmak amacıyla Jackson Küresel İlişkiler Enstitüsü ile Yale Hukuk Okulu arasındaki bir işbirliğidir. Cuma günkü etkinlik, forumun bu öğretim senesinde düzenlemiş olduğu üç etkinliğin sonuncusuydu.

“Yale’de gördüğüm ve benim için bir parçası olabildiğim vakalar dizisi, benim için hakikaten alanın iyi mi değiştiğinin, bilgisayar biliminin kendisini bu tür bir şeye iyi mi açtığının bir işareti. Panelistlerden kabul edilen yazar Brian Christian, News’e verdiği demeçte, disiplinler arası diyalog” dedi. “Politikacıları, filozofları, hukuk teorisyenlerini, makine öğrenimi uzmanlarıyla aynı odada giderek daha çok görüyoruz. […] ve benim için, bunun bir ekip emek vermesi bulunduğunu ve bu geleneksel disiplin çizgileri içinde birazcık ortaklık gerektireceğini ve bence bunu görmeye başlıyoruz.”

İlk panelde kurumsal yazılım devi SAP’nin baş itimat görevlisi Elena Kvochko; Andi Peng ’18, Massachusetts Teknoloji Enstitüsü’nde doktora talebesi; ve Yale’de bilgisayar bilimi profesörü olan Dragomir Radev. Panelin moderatörlüğünü Internasyonal Güvenlik Emekleri’nın yönetici direktörü Ted Wittenstein yapmış oldu.

Münakaşa, teknik güvenlik araştırmalarına ve suni zekaya güvene odaklandı. Radev, konuşmayı naturel dil işlemenin sınırları – bir suni zekanın insan dilini öğrenme ve anlama kabiliyeti – üstüne bir sunumla açtı. Bunu, toplumsal medya sitesi Reddit’te eğitilen ve etik sorgulara ırkçı, homofobik, cinsiyetçi ve mantıksız cevaplar vermeye başlamış olan Ask Delphi olarak malum etik bir suni zeka örneği ile gösterdi. Radev ek olarak, mühim oranda suni zeka ve makine öğrenimi araştırmasının yalnızca İngilizce olarak gerçekleştirildiğine ve bunun sonuçlarında bir dil yanlılığına yol açabileceğine dikkat çekti.

Peng, robotların gerçek dünyada fizyolojik olarak yerleştirilmesinin risklerini ve sınırlamalarını ve makinenin sistemlerini tasarlarken bir makineye istenen etkiyi iletmenin zorluğunu tartıştı. İzleyicilerden gelen bir soruya cevap olarak, bir temizlik robotunun en eski örneklerinden birinin, süpürebileceği toz miktarını en üst düzeye çıkarmak için iyi mi eğitildiğini söyledi. Robotu bir eve koyduklarında, robot tozu süpürür, dışarı atar ve sonrasında yeniden süpürür, şundan dolayı bu, toplayabildiği toz miktarını en üst düzeye çıkarır. Bu yazışma problemi, robotlar hemen sonra kirli yada önyargılı olabilecek verilerle etkileşime girdiğinde daha da kötüleşiyor, dedi.

“Sanırım bir alan olarak şu anda boğuştuğumuz kilit sual, uyum sorunudur, doğrusu, kullanıcılarımızın amaçlanan hedeflerini, eğittiğimiz gerçek sistemlerinkilerle iyi mi uyumlu hale getirebiliriz?” Peng panelde söylemiş oldu.

Münakaşa hemen sonra hususi sektöre ve onun siber tehditleri savuşturma kabiliyetine güvenmeye devam etti. Kvochko, seyircilere bugünün “tehdit manzarasının” bir ekip zorluklar doğurduğunu söylemiş oldu. Yüzde 58’i kişisel verileri içeren veri ihlallerinin maruz kalmış olduğu 36 milyar kayıt bulunduğunu belirtti. Ek olarak, ihlallerin yüzde 90’ından fazlasının bir kimlik avı e-postasıyla başladığını ve birçok endüstrinin ve kişinin ne kadar savunmasız bulunduğunu vurguladığını söylemiş oldu.

Kvochko, siber güvenlik sektörünün karşı karşıya olduğu zorlukların devamlı olarak geliştiğini ve giderek daha uzaktaki iş gücünün yeni bir hücum güvenlik açığını temsil ettiğini ve siber güvenlikte personel eksikliğinin probleminin üstesinden gelmek için yetersiz insan gücü ve data ile sonuçlandığını söylemiş oldu. SAP benzer biçimde hususi şirketlerin, önyargılı eğitimden kaçınarak, müşterilerin üçüncü taraf satıcılarla veri paylaşmaktan vazgeçmelerine izin vererek ve diğerlerinin yanı sıra veri ihlallerini ele alarak itimatı güçlendirmedeki önemini altını çizdi. Ek olarak, otomatik makinelere duyulan itimat ile alakalı soruları yanıtlamak için araştırma topluluğunun iş dünyası ile ortaklık kurmasının önemine de dikkat çekti.

Peng, Kvochko’nun duygularını tekrarlayarak, akademinin yanı sıra öteki endüstrilere maruz kalmanın ve onlarla çalışmanın değerinin altını çizdi.

“Bir akademisyen olarak, her şeyden ilkin, bir çok vakit yaptığımız bu minik araştırma kabukları ile süper sildiğimizi söyleyebilirim, sonunda kendi çalışmalarımızı topluluğumuzun değerleri doğrultusunda teşvik ediyoruz ve bir çok vakit unutuyoruz. Dünyada neyin mühim olduğu ve neyin olmadığı,” dedi Peng panele. “… Zaman içinde, aslen bunların çoğunu birleştiren ortak bir nokta bulunduğunu fark ediyorsunuz.”

İkinci panelde Yale’de hukuk ve felsefe profesörü olan Christian ve Scott Shapiro yer aldı. Konferansın moderatörlüğünü internasyonal hukuk profesörü ve Yale School Center for Global Legal Challenges direktörü Oona Hathaway yapmış oldu.

Suni zeka etiği ve normları geliştirmeye odaklanan Christian, konuşmaya, değişik bilgisayar programlarının insan denetim deneklerine karşı kontrol edilmiş olduğu senelik yarışma olan Turing Kontrol yarışmasında bir insan olarak bulunmuş olduğu “olağandışı konumu” tanımlayarak başladı. ayırt etmesi en zor olanı – 2009’da. Christian eğlenerek hem en ikna edici bilgisayar programı için bir ödül hem de “en insani bir ödül” bulunduğunu hatırladı.

“Bence büyük dil modellerinin yükselişiyle bunu söylemek oldukça adil […] Turing Testini dikiz aynasında düşünebiliriz,” dedi Christian. “Alan Turing’in 2022 senesinde Turing Testlerinin aslen internette dolaşan biri olmanın can bunaltıcı işlerinden biri bulunduğunu hayal edebileceğini sanmıyorum.”

Christian’ın son olarak kitabı “Hizalama Problemi”, insanların işlevselleştirdikleri ile sistemin yapmasını umdukları arasındaki boşluğa bakıyor. Modellerin gücü arttıkça, hizalama problemininin “daha iyi olmaktan fazlaca daha kötüye giden” bir problem bulunduğunu savundu. Bir kullanıcının kodunu otomatikman tamamlamak için büyük dil modelleri kullanan bir Microsoft ürünü olan Github destek pilotu benzer biçimde bir programa buggy kodu sunulursa, program kodu daha çok hatayla otomatikman tamamlama eğilimindedir.

Christian, tekrardan tutuklama tahminleri benzer biçimde istatistiklerin bir avuç parametreye haiz fazlaca rahat modellere dayandığı ceza adaletinde suni zeka uygulamasını gündeme getirdi. Duke Üniversitesi’nde bir bilgisayar bilimcisi olan Cynthia Rudin’in, 20 yaşın altındaki erkekler, 23 yaşın altındakiler iki kez tutuklanmış yada üç yada daha çok tutuklanmış hepimiz için yeniden kabahat işlemeyi öngörmek de dahil olmak suretiyle “bir İngilizce cümleye uyan” bir modelinden alıntı yapmış oldu. Bu model, görünüşe bakılırsa, birçok eyalet tarafınca kullanılan tartışmalı tescilli kapalı kaynak sistemi COMPAS ile doğruluk için rekabet ediyor.

Hükümetlerin bu araçların kullanımını giderek daha çok mecburi kıldığı perspektifinden, bunların aslen yasanın uzantıları haline geldiğini söylemiş oldu. Sadece bu suni zeka sistemlerinden elde edilmiş tüm veriler kamuya açık hale getirilmiyor. Christian, davalıların modele eklenen verilere erişemediği durumlar bulunduğunu söylemiş oldu.

Kendisini “felsefeci” olarak tanımlayan Shapiro, [who] bir AI Laboratuvarına giriyor”, mahkeme salonunda suni zeka kullanmanın etkilerini değerlendirdi. Başyargıç John Roberts’ın yasal davalarda ‘daha iyi’ kararlar verecek bir suni zeka sisteminin geliştirilmesine yönelik savunuculuğunu alıntıladı ve reddetti. Shapiro, cezalandırma yönergelerini kullanmak yerine, cezalandırma mevzusunda veriye dayalı kararlar almak için suni zekaya güvenmenin basitçe “yasanın gereksiz bir uzantısı” bulunduğunu savundu. Bu şekilde bir konuşmanın yalnızca karar vericilere ne kadar takdir yetkisi verileceğine ilişkin aynı sorulara geri döndüğünü ileri sürdü – yada AI söz mevzusu olduğunda, karar verme araçları – hem AI durumunda hem de yasada, Son çağrıyı yapmak için devamlı “ilgili insan” olun.

Christian, “Hakkaten etkilendiğim şeylerden biri ve suni zeka ve makine öğreniminin tarihini düşündüğümde, alanın hakikaten bir tür disiplinlerarası ruhla başlatılmış olması,” dedi. 1950’lerin ortalarına dönüyorum, bildiğiniz suretiyle sibernetik uzmanlarını ve nörologları, matematikçileri, bununla beraber antropologları ve psikiyatristleri bir araya getiren, bilhassa temel modeller adında olan bir takım vaka vardı ve bana o şekilde geliyor ki, şimdi biz daha yeniyiz. Bu sorunların doğası gereği disiplinler arası doğasını takdir ettiğimiz için, hakikaten disiplinler arası ruhun bir kısmını kurtarmaya başlıyoruz.”

Bu yılki forum, programın başlamasından bu yana beşinci oldu.

MIRANDA JEYARETNAM


Miranda Jeyaretnam, Jackson Küresel İlişkiler Enstitüsü’nü ve Singapur Ulusal Üniversitesi’ndeki gelişimleri ve YDN’nin Üniversite masası için Yale-NUS’taki gelişimleri özetleyen beat muhabiridir. Eskiden 2022 YDN Kurulu altında Yale Daily News için düşünce editörüydü ve 2020 Baharında ‘Crossing the Aisle’ adlı köşe yazısında personel köşe yazarı olarak yazdı. Singapur’dan, Pierson College’da İngilizce bölümünde ikinci derslik öğrencisidir. .

Comments are closed.