ABD'nin California eyaletinde, yapay zeka modellerini yeterli güvenlik önlemleri ve denetim mekanizmaları olmadan geliştirip test eden OpenAI'ye dava açıldı; bu durum kamu güvenliğini tehlikeye attığı iddia edildi. Bu dava, California Başsavcısı Rob Bonta tarafından yapılmıştır.](
Başsavcı Rob Bonta, şirketin kamu güvenliğini korumak için gerekli güvenlik önlemlerini ve denetim mekanizmalarını oluşturmadan gelişmiş yapay zeka modellerini bilerek geliştirdiğini ve test ettiğini, bu yolla kamuoyunu yanılttığını ve halkı tehlikeye attığını ileri sürdü.
Hugging Face'in altyapısına yönelik siber saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan, kusurlu ve güvenlik açıkları barındıran bir test ortamında çalıştırmayı tercih etmesi nedeniyle öngörülebilir olduğu savunuldu.
OpenAI'nin yüksek kapasiteye sahip ve giderek daha güçlü hale gelen yapay zeka modellerinin test süreçlerini yeterince güvence altına almamasının ve denetlememesinin kamuya zarar veren bir durum oluşturduğu belirtildi.
Şirketin bu uygulamalarla California Haksız Rekabet Yasası'nı ihlal ettiği öne sürüldü.
OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırarak toplumun güvenliğini, sağlığını ve refahını tehdit ettiği kaydedildi; şirket, tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test etti ve kamuoyunu yanılttı.
OpenAI, temmuz ayında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline yol açtığını duyurmuştu.