Yapay zeka (AI) finans sektörüne doğru genişlemeye devam ediyor. Buna karşın Uluslararası Para Fonu (IMF) Yayınları web portalında yayınlanan yeni bir rapor, finans dünyasındaki en son AI yetenekleriyle ilgili riskler hakkında uyarıda bulunuyor.
Ghiath Shabsigh ve El Bachir Boukherouaa tarafından yazılan rapor, genellikle metin, resim ve video gibi orijinal içerik oluşturabilen bir yapay zeka biçimi olan üretken yapay zeka olarak adlandırılan üretken yapay zekaya odaklanıyor. Openai’nin Chatgpt, Anthropic’in Claude ve Midjourney gibi önemli sistemler, son aylarda bu teknolojiden yararlanma konusunda popülerlik kazandı.
Yapay zeka ile ilgili araştırma
Araştırmaya göre, üretken yapay zeka, süreçleri otomatikleştirmek ve risk yönetimini geliştirmek gibi uygulamalar için umut vaat ederken, aynı zamanda veri gizliliği, önyargı, performans sağlamlığı ve siber güvenlik ile ilgili yeni riskler de getiriyor.
Araştırmacılar, üretken AI sistemlerinin büyük miktarda çevrimiçi veri aladığına ve gizlilik ihlalleri veya bu verilerden kaynaklanan önyargıların çoğaltılması konusunda endişelere yol açtığına dikkat çekiyor. Ayrıca, sistemlerin tamamen yeni içerik üretme yeteneği, makul ancak yanlış bilgiler üretebilecekleri anlamına gelir. Raporda şunlar belirtiliyor:
Halka açık sistemler, yeteneklerini operasyonlarına dahil etmek isteyen finansal kurumlar için önemli gizlilik zorlukları oluşturmaktadır. Böylece bu otomasyon, finansal kurumların personeli tarafından [jeneratif AI] ile etkileşimlerinde sağlanan hassas finansal verilerin ve kişisel bilgilerin sızma olasılığını artırıyor.
Rapor, üretken yapay zekanın finansta sorumsuzca konuşlandırılması durumunda bu sorunların halkın güvenini zayıflatabileceği konusunda uyarıyor. Örneğin, yapay zeka tarafından oluşturulan müşteri risk profilleri hem yanlış hem de ayrımcı olabilir. Araştırmacılar, popüler sohbet robotlarının kusurlu finansal tavsiyeler sağlayabileceği konusunda ısrar ediyorlar.
Ağustos 2023’te, ABD’nin şu anki başkanı Gary Gensler. Menkul Kıymetler ve Borsa Komisyonu (SEC), yapay zeka teknolojisinin gelecekteki finansal krizlerin merkezinde olacağı konusunda bir uyarı yayınladı. Menkul kıymetler düzenleyicisi, bazı AI model risklerini ele almayı önerdi. Bu arada, SEC kısa süre önce Nasdaq için yapay zeka destekli yeni bir sipariş türünü onayladı ve geleneksel bir finans (TradFi) borsası için bu tür ilk onayı işaret etti.
