Yapay zekâ ajanına dolandırılmayın

EREN KOCA - Bilişim Uzmanı Osman Demircan, “Yapay zekâ artık ürün tavsiye etmenin ötesine geçerek, kullanıcının verdiği yetki kapsamında alışverişin belirli aşamalarını gerçekleştirebiliyor. Örneğin; Amazon’un ‘Alexa for Shopping’ asistanı ürünleri karşılaştırabiliyor, fiyatlarını takip edebiliyor ve kullanıcı talimat verdiğinde belirlenen fiyata düşen ürünü satın alabiliyor” dedi.

‘Sistem saldırıya uğrayabilir’

Demircan şöyle devam etti: “Bu sistemler saldırıya uğrayabilir veya yanlış yönlendirilebilir. Yapay zekânın okuduğu bir internet sayfasına, ürün açıklamasına veya başka bir içeriğe yerleştirilen kötü niyetli talimatlar da ajanı etkilemeye çalışabilir. ‘Prompt injection’, yani talimat enjeksiyonu denilen saldırı, sistemin okuması gereken içeriği yerine getirmesi gereken bir emir gibi algılamasını hedefler. Bu, tarayıcı kullanan yapay zekâ ajanları için bilinen bir güvenlik sorunudur. Alışveriş bağlamında bunun olası sonucu, ajanın belirli bir satıcıya yönlendirilmesi, kullanıcının tercihlerini göz ardı etmesi veya erişebildiği kişisel bilgileri istenmeyen bir yere aktarması olabilir. Bunlar saldırı senaryolarıdır.

Ödeme öncesindeki son onayı kendiniz verin. Ürünün tam modelini, adedini, satıcıyı, kargo ve vergiler dahil toplam bedeli, teslimat adresini ve varsa abonelik koşullarını kontrol edin. Yalnızca asistanın özetine bakmayın.”