Erişilebilirlik

ABD'de eyaletler yapay zekanın Amerikalılar'ın hayatındaki gizli müdahalelerini hedef alıyor


Irk, cinsiyet ve gelir düzeyine ilişkin önyargılı unsurlar içeren geçmiş bilgilerle eğitilen yapay zeka aygıtları, iş başvurularından konut kiralamaya kadar birçok alanda bazı Amerikalılar aleyhine önyargılı kararlar alabiliyor.
Irk, cinsiyet ve gelir düzeyine ilişkin önyargılı unsurlar içeren geçmiş bilgilerle eğitilen yapay zeka aygıtları, iş başvurularından konut kiralamaya kadar birçok alanda bazı Amerikalılar aleyhine önyargılı kararlar alabiliyor.

Yapay zeka ChatGPT ile geçen yıldan bu yana büyük bir atılım gerçekleştirirken perde arkasında teknoloji, iş başvurusu yapanların özgeçmişlerinin taranması, kiralık daire başvuruları ve hatta bazı durumlarda tıbbi tedavi yöntemlerini belirlenmesi gibi alanlarda günlük hayata sessizce nüfuz etti.

Bazı yapay zeka sistemlerinin ayrımcılık yaptığı, teraziyi belirli ırklar, cinsiyetler veya gelir düzeyleri lehine çevirdiği tespit edilmiş olsa da hükümet, yapay zeka teknolojilerini yeterli düzeyde denetlemiyor.

Bu ortamda en az yedi eyalet, yapay zekada önyargıyı ortadan kaldırmak için büyük yasal adımlar atıyor ve Kongre'nin eylemsizliğinden doğan boşluğu dolduruyor. Bu öneriler, yeni teknolojinin faydalarını yaygın olarak belgelenen risklerle dengelemek için on yıllardır süren bir tartışmanın ilk adımlarından bazıları.

Beyaz Saray'ın Yapay Zeka Haklar Bildirgesi'nin yazarlarından Brown Üniversitesi profesörü Suresh Venkatasubramanian, "Yapay zeka aslında siz farkında olsanız da olmasanız da hayatınızın her bölümünü etkiliyor. Eğer hepsi iyi çalışsaydı umurunuzda olmazdı. Ama çalışmıyorlar" dedi.

Yapay zeka düzenlemelerinde başarı ya da başarısızlık, yüz milyarlarca dolar değerinde olan ve büyük bir hızla büyüyen yapay zeka sektörüyle müzakere ederken karmaşık sorunlar üzerinde çalışan kanun yapıcılara bağlı olacak.

Yazılım şirketleri adına lobi faaliyetleri yürüten BSA The Software Alliance'a (BSA Yazılım İttifakı) göre, geçen yıl eyalet meclislerinde sunulan yapay zeka ile ilgili yaklaşık 200 yasa tasarısından sadece bir düzinesi yasalaştı.

Bu yasa tasarıları, bu yıl tartışılan yapay zekayla ilgili 400'den fazla yasa tasarısı ile birlikte, büyük ölçüde daha küçük yapay zeka girişimlerini düzenlemeyi amaçlıyordu. Bu tasarılar arasında, Taylor Swift'inki gibi pornografik deepfake'lerin yasaklanmasına yönelik teklifler de dahil olmak üzere, deepfake'leri hedef alan yaklaşık 200 tasarı da yer alıyor. Diğerleri ise ChatGPT gibi sohbet robotlarını dizginlemeye ve örneğin 'bomba nasıl yapılır' gibi soruların yanıtlarını vermemelerini sağlamaya çalışıyor.

Bunlar, California'dan Connecticut'a kadar tartışılan ve teknolojinin en karmaşık sorunlarından biri olan yapay zeka ayrımcılığını düzenlemek için sektörler arasında uygulanacak yedi eyalet yasa tasarısından ayrı.

Yapay zekanın ayrımcılık yapma eğilimini inceleyenler, devletlerin önlem alma konusunda zaten geride olduklarını söylüyor. Yapay zekanın önemli kararlar almak için kullanımı oldukça yaygın, ancak büyük ölçüde gizli. Yasa tasarılarında bu durum "otomatik karar araçları" olarak tanımlanıyor.

Eşit İstihdam Fırsatı Komisyonu'na göre, işverenlerin yüzde 83'ünün işe alımlarda yardımcı olması için algoritmalar kullandığı tahmin ediliyor. Fortune 500 şirketlerinde bu oran yüzde 99.

Ancak Pew Research'ün anketine göre, sistemlerin önyargılı olup olmadığı bir yana, Amerikalılar'ın çoğunluğu bu araçların kullanıldığından bile habersiz.

Bir yapay zeka aygıtı, üzerinde eğitildiği veriler aracılığıyla önyargılı olmayı öğreniyor. Bu veriler, geçmiş ayrımcılık örneklerini içerek tarihi verileri de kapsayabiliy

Örneğin online perakende devi Amazon, işe alım algoritması projesini, yaklaşık on yıl önce erkek başvuru sahiplerine ayrıcalık sağladığı tespit edildikten sonra iptal etti. Amazon'un kullandığı yapay zeka aygıtı, çoğu erkek başvuru sahiplerinin olmak üzere geçmiş özgeçmişlerden öğrenerek yeni özgeçmişleri değerlendirmek üzere eğitilmişti. Algoritma, başvuru sahiplerinin cinsiyetlerini bilmese de, öğrendiği geçmiş verilerde temsil edilmedikleri için "kadın" kelimesi içeren veya öğrenci bünyesini kadın öğrencilerin oluşturduğu üniversiteleri listeleyen özgeçmişleri yine arka plana atmıştı.

Kiralık konut başvurularını puanlayan bir yapay zeka sisteminin siyah veya Latin kökenlilere karşı ayrımcılık yaptığının iddia edildiği bir toplu davanın avukatı Christine Webber, "Yapay zekanın mevcut yöneticilerin tarihsel olarak aldığı kararlardan öğrenmesine izin veriyorsanız ve bu kararlar tarihsel olarak bazı insanları kayırmış ve diğerlerini kayırmamışsa, o zaman teknoloji de bunu öğrenecektir" dedi.

California eyaletinde özel sektörde yapay zeka önyargısını engellemek için başlatılan ilk kapsamlı girişim, geçen yıl başarısızlıkla sonuçlanmıştı. Şimdiyse eyaletlerin hazırladıkları yasa tasarıları, yapay zeka teknolojisinin şeffaf ve hesap verebilir olmasına odaklanıyor.

Tasarılara göre, bu otomatik karar araçlarını kullanan şirketler, yapay zekanın bir karara nasıl dahil olduğuna dair açıklamalar, toplanan veriler ve ayrımcılık risklerinin analizi ile birlikte şirketin güvenlik önlemlerinin bir açıklamasını içeren "etki değerlendirmeleri" yapmak zorunda olacak. Tasarıya bağlı olarak, bu değerlendirmeler eyalete sunulacak veya düzenleyiciler bunları talep edebilecek.

Bazı yasa tasarıları ayrıca şirketlerin müşterilere bir karar verirken yapay zekanın kullanılacağını söylemesini ve belirli uyarılarla vazgeçmelerine izin vermesini gerektiriyor.

Yazılım şirketleri adına lobi yapan BSA'nın ABD hükümet ilişkileri kıdemli başkan yardımcısı Craig Albright, üyelerinin genel olarak etki değerlendirmeleri gibi önerilen bazı adımları desteklediğini söyledi.

Albright, "Teknoloji yasalardan daha hızlı ilerliyor ama yasaların buna ayak uydurmasının faydaları var. Çünkü şirketler böylelikle sorumluluklarının ne olduğunu anladıklarında, tüketiciler de teknolojiye daha fazla güven duyabilir" diyor.

California Eyalet Meclisi üyesi Rebecca Bauer-Kahan, geçen yıl Workday ve Microsoft gibi bazı teknoloji şirketlerinin desteğiyle başarısız olan yasa tasarısını, şirketlerin etki değerlendirmelerini rutin olarak sunmaları şartını kaldırdıktan sonra yeniledi. Yasa tasarılarının sunulduğu ya da sunulması beklenen diğer eyaletler Colorado, Rhode Island, Illinois, Connecticut, Virginia ve Vermont.

Brown Üniversitesi'nden Venkatasubramanian'a göre bu yasa tasarıları doğru yönde atılmış bir adım olsa da, etki değerlendirmeleri ve bunların önyargıları tespit etme kabiliyeti belirsizliğini koruyor. Raporlara daha fazla erişim olmadan (tasarıların çoğu bunu sınırlıyor) bir kişinin yapay zeka tarafından ayrımcılığa uğrayıp uğramadığını bilmek de zor.

Ayrımcılığı tespit etmenin daha yoğun ama doğru bir yolu, önyargı denetimlerini (bir yapay zeka aygıtının ayrımcılık yapıp yapmadığını belirlemek için yapılan testler) zorunlu kılmak ve sonuçları kamuya açık hale getirmek olabilir. Yapay zeka sektörü, ticari sırları açığa çıkaracağını savunarak buna karşı çıkıyor.

Forum

STÜDYO VOA

Üç ülke Filistin’i resmen tanıdı - 28 Mayıs
lütfen bekleyin

No media source currently available

0:00 0:29:58 0:00
XS
SM
MD
LG