Regüle Sektörler İçin Yapay Zeka Ajanı Güvenlik Kriterleri Yayınlandı

Fintech Times haberine göre, Kosa8 Labs adlı kuruluş, bankalar, hastaneler ve kamu kurumları gibi düzenlemeye tabi ve hassas alanlarda otonom yapay zeka ajanlarının güvenle devreye alınabilmesi amacıyla 46 sayfalık kapsamlı bir teknik rapor kaleme aldı. "Sealed Machines for Autonomous Agents" başlığını taşıyan bu çalışma, toplam 11 yapay zeka ajan altyapı platformunu, regüle ortamlarda zorunlu kabul edilen 13 güvenlik gereksinimi üzerinden değerlendirdi.

Araştırma, saldırganların ajanların yürütme ortamına çoktan sızdığı en kötümser senaryo varsayımıyla yola çıkıyor. Raporun bulgularına göre mevcut rakip sistemlerin hiçbiri 13 kriterin dörtten fazlasını tam olarak karşılayamazken, çalışmayı yürüten Kosa8 kendi platformunun tüm şartları sağladığını iddia ediyor. Öne çıkan kritik güvenlik önlemleri arasında yüksek riskli işlemler için çalışma anında zorunlu kılınan iki kişi onay mekanizması, belirlenen politikanın dışındaki varış noktalarını engelleyen ağ kontrolleri ve üçüncü taraflarca doğrulanabilen kurcalamaya dayanıklı denetim logları yer alıyor.

Finansal kuruluşlar ve bankacılık otoriteleri, yapay zeka ajanlarının kullanımında şeffaflık, denetlenebilirlik ve operasyonel risk yönetimi ilkelerine büyük önem veriyor. Özellikle Avrupa Birliği'nin Dijital Operasyonel Dayanıklılık Yasası (DORA) ve merkez bankalarının model risk rehberleri, üçüncü taraf yapay zeka araçlarının sıkı denetimlerden geçmesini zorunlu kılıyor. Uzmanlar, regüle finans sektöründe faaliyet gösteren kurumların, hassas iş yüklerini ortak bulut sistemlerine taşımadan önce donanım düzeyinde izolasyon ve çalışma anında politika denetimi sunan bu tür güvenlik standartlarını yakından takip etmesi gerektiğine dikkat çekiyor.