AI ajanları eylem gerçekleştirir. Eylemlerin sonuçları vardır. Bir ajan hata yaptığında, bu silinebilecek kötü bir paragraf değildir — müşteriye yanlış bir e-posta gönderilmesi, production ortamına hatalı kod dağıtılması, hassas verilerin üçüncü taraf API’ye gönderilmesi veya sonsuz bir döngüden kaynaklanan 500 dolarlık API ücretidir.
Bunlar teorik riskler değildir. Gerçek kullanıcıların gerçek ajanlar çalıştırırken her gün karşılaştığı durumlardır. Bu makale, en yaygın ve pahalı hataları ile bunları önleyen beş güvenlik önlemini ele alıyor.
Önemli Çıkarım
Her ajan eylemi geri alınabilir veya geri alınamaz olarak sınıflandırılmalıdır. Geri alınabilir eylemler (dosya düzenleme, taslak oluşturma) bağımsız çalıştırılabilir. Geri alınamaz eylemler (e-posta gönderme, kod dağıtma, veri silme) yürütmeden önce insan onayı gerektirir. Bu tek kural, pahalı ajan hatalarının %90’ını önler.
En Pahalı 5 Ajan Hatası
| Hata | Ne Olur | Maliyet | Önleme |
|---|---|---|---|
| Yanlış e-posta gönderildi | Ajan taslağı inceleme yapmadan müşteriye gönderir | İtibar kaybı | Asla otomatik gönderme — yalnızca taslak oluştur |
| Hatalı kod dağıtıldı | Test edilmemiş AI kodu production ortamına yüklendi | Kesinti, kullanıcı etkisi | Testlerin geçmesini ve insan incelemesini zorunlu kıl |
| Yanlış API’ye veri gönderildi | Hassas veri üçüncü taraf AI’ye sızdırıldı | Uyumluluk ihlali | İzin verilen API’leri beyaz liste, veriyi sandbox’la |
| Kontrolsüz API maliyetleri | Ajan döngüye girerek binlerce token tüketir | 100-5.000+ dolarlık ücretler | Sağlayıcı hesaplarında harcama limitleri belirle |
| Dosya silme/yazma | Ajan yanlış dosyaları düzenler veya siler | Veri kaybı, kurtarma süresi | Kontrol noktaları kullan, yazma izinlerini kısıtla |
5 Güvenlik Önlemi
1. Her eylemi geri alınabilir veya geri alınamaz olarak sınıflandır. Dosya düzenlemeleri geri alınabilir (git revert, kontrol noktası geri yükleme). E-postalar geri alınamaz (gönderilen e-posta geri alınamaz). Kod dağıtımları yarı geri alınabilir (geri alınabilir, ancak kesinti yaşanır). Sadece geri alınabilir eylemleri otomatik yürüt.
2. API harcama limitleri belirle. Her LLM sağlayıcısı harcama sınırları sunar. Bunları ayarlayın. Bir ajan döngüye girerse ve model pahalıysa, bir saat içinde 500 dolar yakabilir. Günlük 50 dolarlık limit, felaket niteliğindeki faturaları önler.
3. Hermes Agent’ın kontrol noktası/geri alma özelliğini kullan. Her önemli eylemden önce Hermes, dosya sistemi kontrol noktası oluşturur. Eylem yanlış giderse, kontrol noktasına geri dönebilir. Hiçbir diğer ajan çerçevesi bunu sunmaz — dosya düzeyindeki hatalara karşı en iyi güvenlik önlemidir.
4. İzinleri minimum gereklilikle kısıtla. Belge işleyen bir ajan, e-posta erişimine ihtiyaç duymaz. İçerik hazırlayan bir ajan, veritabanına erişime ihtiyaç duymaz. En az yetki ilkesi — ajanlara yalnızca belirli görev için gereken erişimi ver.
5. Daha iyi talimatlar = daha az hata. Belirsiz ajan talimatları öngörülemeyen sonuçlar üretir. Kısıtlamalarla birlikte belirli talimatlar (“yalnızca /src klasöründeki dosyaları değiştir”, “onayım olmadan asla gönderme”, “bir hata ile karşılaştığında dur ve bildir”) başarısızlık modlarını azaltır. Prompt Optimizer ajanların yoldan çıkmasını önleyen kısıtlamalar ve detaylar ekler.
---📬 Bu makaleden fayda sağladın mı? AI’nin pratik yönünü ele alıyoruz — riskler de dahil. Gelen kutuna ulaş →
---Sık Sorulan Sorular
AI ajan hatalarından önemli miktarda para kaybeden oldu mu?
Evet. K<|eos|>