Otonom yapay zeka sistemlerinin insan müdahalesi veya doğrudan onay olmadan kendi kararlarını alıp şirketlerin siber güvenlik duvarlarını aştığı vakaların ortaya çıkması, teknoloji ve hukuk dünyasını kaosa sürükledi.
Yapay zeka geliştiricisi dev şirketlerin üst üste bildirdiği güvenlik ihlalleri, bu kontrolden çıkan ajanların vereceği zararlardan kimin sorumlu olacağına ilişkin çetin hukuki soruları beraberinde getiriyor.
İnsan gözetimine ihtiyaç duymadan bağımsız karar alabilen yapay zeka ajanları, sınırları zorlamaya başladı.
ChatGPT’nin geliştiricisi OpenAI, kendi oluşturduğu bir yapay zeka ajanının yapay zeka girişimi Hugging Face’in sistemini ihlal ettiğini ve ajanların dijital hapishanelerinden kaçtığı başka vakalar da tespit ettiklerini duyurdu.
Bir diğer yapay zeka devi Anthropic, Claude modellerinin nisan ayından bu yana üç farklı şirketin altyapısını deldiğini bildirirken, Meta ise bir yapay zeka modelinin siber güvenlik testleri sırasında başka bir şirketin sistemine sızdığını açıkladı.
Yapay zeka laboratuvarı Hugging Face’in CEO’su Clement Delangue, CBS kanalına verdiği söyleşide OpenAI ihlali nedeniyle dava açmayı düşünmediğini belirtti.
Ancak Delangue, geliştiricilerinin eylemlerinden sorumlu tutulmadığı yapay zeka ajanlarının yayacağı siber saldırı riskinden derin endişe duyduğunu söyleyerek bu durumu “yeni bir teknolojik risk türü” olarak tanımladı.
Otonom yapay zekaların yol açtığı güvenlik ihlallerinde mağdur olan taraf yalnızca siber savunması delinen şirketlerle sınırlı kalmıyor.
Sistemleri ihlal edilen şirketlerin çalışanları ve kişisel verileri sızdırılan müşteriler dava açma potansiyeli taşıyor.
Siber güvenlik zafiyeti nedeniyle şirket hisselerinde düşüş yaşanması durumunda hissedarların da tazminat talebiyle mahkemeye başvurabileceği değerlendiriliyor.
Uzmanlar, otonom bir yapay zeka ajanının karıştığı ihlallerde düzenleyici kurumların ve kamu kolluk kuvvetlerinin de devreye girebileceğine dikkat çekiyor.
ABD makamları ise, geçmiş dönemlerde de güvenlik zafiyeti yaşamadan önce siber koruma tedbirlerini yanlış veya eksik beyan ettiği gerekçesiyle şirketlere karşı hukuki yaptırımlar uygulamıştı.
Kontrolden çıkan yapay zeka eylemleri oldukça yeni bir olgu niteliği taşısa da hukuk uzmanları, yerleşik hukuk ilkelerinin sorumluluk tespitinde yol gösterici olduğunu vurguluyor.
Yapay zeka şirketlerine karşı açılacak özel hukuk davalarının temelini çoğunlukla “ihmal” iddiaları oluşturuyor.
Bu süreçte davacıların, otonom ajanı geliştiren, test eden veya kullanıma sunan laboratuvarın öngörülebilir zararları önleme ya da en aza indirme konusunda gerekli tedbirleri almadığını kanıtlaması gerekiyor.
Otonom yapay zeka ajanlarının karıştığı siber korsanlık vakalarının sıklaşması durumunda, bu tür ihlallerin “öngörülebilir” olduğunu savunmak daha da kolaylaşabilir.
Sistemleri ihlal edilen şirketler, bilgisayar ağlarına erişimi koruma altına alan yasaların ihlal edildiğini de öne sürebilir.
Nitekim birçok hukuk firması, yayımladıkları bilgi notlarında OpenAI ve Anthropic açıklamalarının federal Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası kapsamında sorumluluk doğurduğuna işaret ediyor.
Fakat söz konusu yasa kanıtlanmış bir “kasıt” şartı arıyor.
Hukukçular, bir insanın değil de yapay zeka programının sızma eylemini gerçekleştirdiği durumlarda kastın nasıl belirleneceği konusunda henüz bir yargı kararı bulunmadığına dikkat çekiyor.
ABD Temyiz Mahkemesi, 5 Ağustos tarihinde aldığı kararda, Perplexity’ye ait yapay zeka ajanlarının gizlice özel Amazon müşteri hesaplarına erişerek Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası’nı ihlal ettiği yönündeki Amazon iddiasını zayıf buldu.
Ancak bu dava, tamamen otonom çalışan modelleri değil, insan kullanıcılar adına hareket eden yapay zeka ajanlarını kapsıyordu.
Uzmanlara göre ABD’de açılacak olası bir davada ilk hedef yapay zeka ajanını oluşturan teknoloji şirketi olacak.
Bununla birlikte davacılar, ajanı kendi sisteminde çalıştıran veya ihlale uğrayan şirkete karşı da dava açabilir.
Tek bir vaka üzerinden birden fazla davalıya sorumluluk yüklenebileceği gibi, bu tarafların da birbirlerine karşı alt davalar açması muhtemel görünüyor.
Hukukçular bu durumu, kusurlu bir ürün satan perakende mağazasına dava açan ev sahibine ve mağazanın da üretici firmaya karşı hukuki süreç başlatmasına benzetiyor.
Teknoloji sağlayıcılarının ise ihlallerin kasıtsız olduğunu ve engellemek için makul her türlü tedbiri aldıklarını savunması bekleniyor.
Bir davalı, yapay zeka ajanının eylemlerinin makul sınırlar içinde öngörülemeyeceğini belirterek ihmal suçlamasına karşı çıkabilir.
Davalarda temel tartışma noktasının, hangi düzeydeki güvenlik önleminin “yeterli” kabul edileceği etrafında şekilleneceği öngörülüyor.
Kaliforniya’da kabul edilen 316 sayılı Meclis Yasası ise yapay zeka sistemlerini geliştiren veya kullanan davalıların, “teknolojinin kendisi suçlu” diyerek sorumluluktan kaçmasını engelliyor.
Yine de yasa; şirketin eylemlerinin doğrudan zarara yol açmadığı veya sorumluluğun başka taraflarca paylaşıldığı yönündeki savunma kapılarını açık tutuyor.
Yorum ekle