Yapay zeka tabanlı yüz tanıma teknolojisinin hatalı sonuçlarının yol açtığı insan hakları ihlalleri giderek artıyor. Son örnek, ABD’de yaşanan ve altı kişinin haksız yere gözaltına alınmasına neden olan bir olay olarak öne çıkıyor. Bu olayda, yapay zeka destekli yüz tanıma aracının kullanılması sonucunda gözaltına alınan kişilerin tamamının siyah olduğu ve aralarında 8 aylık hamile bir kadının da bulunduğu belirtiliyor.

Yapay zeka, polis teşkilatının suçlu olduğunu düşündüğü kişilerin belirlenmesinde yardımcı olmak amacıyla kullanılıyor. Ancak bu teknolojinin güvenilirliği ve etik boyutları konusunda ciddi sorunlar yaşanıyor. Söz konusu olayda, hamile bir kadının yanlışlıkla hırsızlık ve araba çalmakla suçlanarak gözaltına alındığı ortaya çıktı. Yapay zeka, kişinin 8 yaşındayken çekilen fotoğrafını kullanarak bu hatalı sonucu üretti.

Bu olay, gelecekte yapay zeka tabanlı teknolojinin hukuk sistemi ve insan hakları üzerindeki etkilerini değerlendirmemize dair önemli bir örnek teşkil ediyor. Teknolojinin hatalı sonuçlarının insanların özgürlüğüne ve güvenliğine zarar verme potansiyeli, daha dikkatli bir yaklaşım gerektirdiğini gösteriyor. İleride, yapay zeka teknolojisinin kullanımının denetlenmesi, etik standartların belirlenmesi ve hatalı sonuçların düzeltilmesi için etkili mekanizmaların oluşturulması, benzer hataların önüne geçmek için kritik olacak. Bu tür olaylar, yapay zeka tabanlı teknolojilerin geliştirilmesi ve uygulanmasında daha fazla şeffaflık, adalet ve insan haklarına saygı gerektiğini vurguluyor.