Yapay Zeka Destekli Polis Raporları Üzerine Tartışmalar
ABD’nin Utah eyaletindeki Heber City Polis Teşkilatı, yapay zeka destekli bir rapor yazılımının ilginç bir hatasına tanıklık etti. Bu olay, polis memurunun son raporunda “kurbağaya dönüştüğünü” fark etmeleriyle gündeme geldi. Yapay zeka ve polis raporları konusundaki tartışmalar, bu durumla birlikte daha da alevlendi.
Hatanın Sebebi: Film Sesleri
Fox 13’ün haberine göre, bu garip hata, polis memurunun vücut kamerası kaydında arka planda çalan bir Disney filminden kaynaklandı. Heber City Polis Teşkilatı’ndan Çavuş Rick Keel, yazılımın, olay anında arka planda çalan 2009 yapımı “Prenses ve Kurbağa” filminden gelen sesleri yanlış anladığını belirtti. Keel, “Yapay zeka destekli raporların mutlaka gözden geçirilmesi gerektiğini anladık” diye ekledi.
Amaç: Evrak Yükünü Azaltmak
Söz konusu yazılım, Axon adlı polis teknolojileri şirketi tarafından geliştirilen ve OpenAI’ın GPT büyük dil modellerini kullanan Draft One. Teşkilat, bu aracı vücut kamerası görüntülerinden otomatik olarak polis raporu oluşturmak ve memurların iş yükünü azaltmak için test etmeye başladı. Ancak, yapılan testlerde ortaya çıkan raporlar, ciddi hatalar içeriyordu.
- Yazılımın testlerinde “trafikte araç durdurma” senaryosu bile hatalarla doluydu.
- Çavuş Keel, yazılımın kendisine haftada “altı ila sekiz saat” zaman kazandırdığını savundu.
- Teknolojinin kullanımı kolay görünmekle birlikte, güvenilirliği tartışmalı.
Şeffaflık Endişeleri ve Gelecek
Electronic Frontier Foundation (EFF) tarafından yapılan incelemeler, bu yazılımın kamu denetimini zorlaştırabileceğine dair endişeleri artırdı. EFF’nin raporuna göre, çoğu zaman bir polis raporunun hangi bölümlerinin yapay zeka tarafından, hangilerinin memur tarafından yazıldığı ayırt edilemiyor. Bu durum, yapay zeka etik sorunları ve polis raporlarının güvenilirliği konusundaki tartışmaları derinleştiriyor.
Axon ve müşterileri, bu teknolojinin polislik alanında devrim yaratacağını öne sürse de, bunun ceza adalet sistemini nasıl etkileyeceği ve kime fayda sağlayacağı belirsizliğini koruyor. Daha fazla bilgi için pv3.org adresini ziyaret edebilirsiniz.
