Yapay zeka, halihazırda kamera ile izleme ve kontrol, dijital hizmetlerde sesli komutla işlem yapma, mali veri değerlendirmeleri gibi birçok alanda kullanılıyor. Ancak, yeni yasa ile birlikte yapay zekanın insanları dini veya siyasi görüş, ten rengi ya da cinsel yönelim gibi kriterlere göre gruplara ayırması yasaklanacak. Ayrıca, Çin'in Sincan bölgesinde uygulanan "sosyal kredi sistemi" gibi insanları kategorize eden sistemlere de izin verilmeyecek.
Yeni kanun, yapay zekanın insanların duygusal dünyasını anlamada kullanılmasını da yasaklıyor. Örneğin, okullarda öğrencilerin veya işletmelerde çalışanların duygusal durumlarını analiz etmek amacıyla yapay zeka kullanılamayacak. Ayrıca, yapay zeka teknolojileri, insanların isteklerine tesir edip yönlendirmede de kullanılamayacak. Vatandaşların yaşları, engelleri veya maddi durumları da yapay zeka aracılığıyla dezavantajlarına kullanılamayacak.
Yüz tanıma teknolojilerinin kullanım kuralları
Emniyet ve güvenlik birimleri, yapay zeka ile yüz tanıma uygulamalarını kamuya açık alanlarda sadece mahkeme kararı ile kullanabilecek. Bu uygulama, şu anda Almanya'nın başkenti Berlin'deki Südkreuz Tren İstasyonu'nda test ediliyor. Yüz tanıma programlarının kaydettiği görseller ise sadece hakkında mahkumiyet kararı olanlar veya ağır suç işlediği iddiasıyla arananları yakalamak için kullanılabilecek.
İnsan ticareti veya cinsel şiddet mağdurlarının tespiti için ise yüz tanıma programları sadece canlı izleme amacıyla kullanılabilecek. Ayrıca, somut ve acil terör tehlikesi durumunda da bu teknolojiler kullanılabilecek.
"Yüksek risk" içeren uygulamalar
Yasa, yapay zekanın emniyet birimlerince kullanımını temel insan hakları ihlali riski nedeniyle "yüksek riskli" olarak değerlendiriyor. Aynı riskin, yapay zekanın personel idaresi için kullanılması durumunda da mevcut olduğu düşünülüyor. Ayrıca, siyasi seçimlere tesir edebilecek yapay zeka sistemleri de yüksek riskli kategorisinde yer alıyor. Bu durumlarda, yapay zekanın kullanımında kontrolün en yüksek mercide, yani insanda olması gerektiği savunuluyor. Yasal düzenlemelerin yanı sıra teknik döküm ve risk yönetimi düzenlemelerinin de yapılması kanun tarafından şart koşuluyor. Mağduriyet yaşadığını düşünenler ise sorumlu devlet makamlarına yapay zeka konusunda şikayette bulunabilecek.
AB Komisyonu, üye ülkelerden uzmanların görev yaptığı bir Avrupa Yapay Zeka Ofisi kuracak. Bu ofis, Avrupa'da etik meseleler ve sürdürülebilir yapay zeka teknolojilerini değerlendirme konusunda faaliyet gösterecek.
Sistemlerin kalite standartları
Yeni yasa, yapay zeka uygulamalarını geliştirenlerin, metinler, görseller ve videoların yapay zeka kullanılarak hazırlandığını belirtmesini zorunlu kılıyor. Facebook, Instagram veya X gibi sosyal paylaşım platformları ile sorumlu ulusal resmi daireler de bu içerikleri denetlemekten sorumlu olacak. Ancak, uzmanlara göre bu alanda denetimlerin sağlanması oldukça güç.
Bireysel kullanıcıların durumu
Bireysel kullanıcılar, AB Komisyonu'na göre Yapay Zeka Yasası kapsamı dışında tutuluyor. Böylece sosyal medya kullanıcıları, yapay zeka ile oluşturulmuş metinler veya görseller paylaşmaya devam edebilecek. Ancak, AB Dijital Hizmetler Düzenlemesi gereği, online platformlar yanlış bilgiler, nefret söylemleri veya cinsel şiddet içerikli paylaşımları internetten kaldırmakla yükümlü olduğu için bu uygulama bireysel kullanıcıları da etkiliyor.
Sanayi kuruluşlarının endişeleri
Sanayi kuruluşları, yeni kanun nedeniyle endişeli. Yapay zeka yasasının yeni uygulamaların geliştirilmesinde aşılması güç engeller yaratacağını düşünüyorlar. Alman Sanayiciler Birliği, bu yönde uyarılarda bulunuyor ve AB'li şirketlerin ABD veya Çin'deki rakiplerine karşı dezavantajlı konuma düşebileceğini belirtiyor.
Yasa ihlalinin cezaları
Yeni Yapay Zeka Yasası'na göre, yasağı ihlal eden şirketleri milyonlarca euroya ulaşabilecek para cezaları bekliyor. Örneğin, yasaklı bir teknolojinin kullanılması halinde şirkete 35 milyon euroya veya küresel cirosunun yüzde 7'si oranında ceza kesilebilecek. Diğer hükümlerinin ihlali halinde ise 15 milyon euroya veya şirket cirosunun yüzde 3'üne kadar ceza verilebilecek.
Yasanın yürürlüğe giriş tarihleri
Yapay Zeka Yasası kademeli olarak yürürlüğe girecek. 2 Şubat 2025'te AB üyesi ülkelerde, sosyal kredi sistemi gibi kabul edilemez uygulamalara dair yasaklar başlayacak. 2 Ağustos 2025'te ise metin veya görsellerde kullanılan yapay zeka sistemlerini düzenleyen maddeler yürürlüğe girecek. 2 Ağustos 2026'da diğer düzenlemeler geçerli olacak. AB Komisyonu, önümüzdeki sonbahardan itibaren yüzlerce şirketin gönüllü olarak denetim yapmayı taahhüt ettiği "Yapay Zeka Paktı"na katılımını bekliyor.
