Anthropic Yapay Zeka Modellerinin Kimliğini Kriptografik Olarak Doğrulayan 'FlashProve' Sistemini Duyurdu

Yapay zeka güvenlik ve araştırma şirketi Anthropic, yapay zeka ekosistemindeki güven sorunlarını ortadan kaldırmayı amaçlayan yeni bir açık kaynaklı sistem üzerinde çalışıyor. 'FlashProve' adı verilen bu teknoloji, araştırmacıların 'provable inference' (kanıtlanabilir çıkarım) olarak adlandırdığı kriptografik bir matematiksel garanti sunuyor.

Sistem, e-postalardaki kriptografik imzalara benzer şekilde, bir çıktının tam olarak hangi model tarafından üretildiğini doğruluyor. Bu sayede model sağlayıcıların maliyetleri düşürmek için gizlice daha ucuz bir modelle değişim yapması veya performans sonuçlarını manipüle etmesi engelleniyor.