Sözleşme Dışı Sorumluluk Hukukunda Otonom Sistemler

Dr. Öğr. Üyesi Cemre Polat*

“Sözleşme Dışı Sorumluluk Hukukunda Otonom Sistemler” adlı bu çalışma, İ. D. Bilkent Üniversitesi Ekonomi ve Sosyal Bilimler Enstitüsü Özel Hukuk Doktora Programı kapsamında yazmış olduğum ve oybirliği ile başarılı bulunan aynı adlı doktora tezinin genişletilerek kitaplaştırılmış hâlidir. Çalışmanın temel araştırma sorusu, otonom sistemlerin neden olduğu zararlardan, sözleşme dışı sorumluluk hukuku bağlamında kim(ler)in, hangi hukuki sebep(ler)le sorumlu olduğudur. Bu soruyu hukukçular için araştırmaya değer ve ilgi çekici kılan, otonom sistemlerin, örneğin otonom karayolu ya da hava araçlarının, arz ettiği özelliklerdir. Diğer teknolojik ürünlerin aksine, otonom sistemler amacını gerçekleştirmek için, doğrudan bir insan fiili veya kontrolüne gerek olmaksızın faaliyet gösterebilir. Üstelik otonom sistemler, faaliyet gösterdikleri çevrenin önceden bilinmeyen koşullarına zekâ ve esneklik barındıran hareketlerle karşılık verebilirler. Bu sistemlerin sahip olduğu otonomi, onları salt birer araç olmaktan çıkarır. Bu durumun da geleneksel sorumluluk hukuku kurallarının uygulanmasını güçleştireceği kaygısı hasıl olmuş; hatta kimi yazarlar bir sorumluluk boşluğu bulunduğunu iddia etmişlerdir. Zira otonom olan ve dolayısıyla onu tasarlayan kişiler tarafından dahi öngörülemeyen davranışlar geliştirme kapasitesine sahip olan bu varlıklar zarara sebep olduğunda, sorumluluğun kime ve hangi hukuki sebeple isnat edileceği (özellikle kusur ve nedensellik bağı unsurları bakımından) soru işaretlerine yol açmıştır. Çalışmada bu sorular, yürürlükteki ve olması gereken hukuk bakımından incelenmiş, mevcut hukuk kurallarının büyük ölçüde yeterli olduğu kanaatine varılmıştır. Çalışmanın birinci bölümünde otonom sistemler teknik ve hukuki olarak incelenmiş; ikinci bölümde bu sistemlerin üreticilerinin sorumluluğu ve son olarak üçüncü bölümde ise otonom sistemlerin işletenlerinin sorumluluğu ele alınmıştır.

Bir sisteme otonomluk özelliğini kazandıran, sistemdeki yapay zekâ bileşenidir. Yapay zekâ unsurunu barındıran sistemler “kendisine karmaşık bir amaç verildiğinde, veri elde ederek çevresini algılayan, elde ettiği yapılandırılmış ya da yapılandırılmamış veriyi yorumlayan, bilgiye dayalı olarak akıl yürüten, elde ettiği veriden çıkardığı bilgiyi işleyerek kendisine verilen amacı gerçekleştirmek için en iyi davranış ya da davranışlara karar veren, insanlar tarafından tasarlanmış yazılım (ve muhtemelen aynı zamanda donanım) sistemleri” olarak tanımlanabilir. Bu tanımdan da görüldüğü üzere otonom sistemler, siber fiziksel ya da yalnızca siber sistemler olarak karşımıza çıkabilir.

Siber fiziksel sistemler -yani bir donanımda tecessüm etmiş otonom sistemler- hukuken eşya niteliğindeyken aynı sonuca siber sistemler, yani salt yazılımdan oluşan sistemler bakımından varmak mümkün değildir. Donanımda tecessüm etmemiş, salt yazılımdan oluşan siber sistemler ancak fikrî hak konusu olabilir ve telif korumasından faydalanabilir. Sorumluluk hukuku bakımından oldukça önem arz eden bir diğer husus da otonom sistemlerin ürün mü yoksa hizmet mi olduğu sorusudur. Zira ayıplı, yani yeterince güvenli olmayan ürünlerin üreticileri, bu ürünlerin neden olduğu zararlardan ürün sorumluluğu gereği kusurları aranmaksızın sorumlu tutulmaktadırlar. Yine siber fiziksel otonom sistemlerin ürün olduğuna şüphe yokken, siber sistemlerin ürün niteliği tartışmalıdır. Zira pek çok ülke mevzuatında ürün taşınır eşya olarak tanımlanmaktadır. Bununla birlikte ürünlerin tipik özelliklerini taşımaları nedeniyle gerek doktrinde gerek AB’nin kurumsal çalışmalarında yazılımların da ürün olarak kabul edilmesi yönündeki görüşler ağır basmaktadır. Çalışmada da yazılımın ürün olarak kabul edilmesi gerektiği savunulmaktadır.

Otonom sistemlerin neden olduğu zararlardan temel olarak iki kişi grubu sorumlu tutulabilir: Üreticiler ve işletenler. Üretici (ve üretici gibi sorumlu tutulan diğer kişiler) ayıplı otonom sistemlerin verdiği zararlardan ürün sorumluluğu uyarınca sorumludurlar. Bununla birlikte ürün sorumluluğunun, otonom sistemlerden zarar gören kimseleri korumaya elverişli olup olmadığı çokça tartışılmıştır. Bu tartışmaların birden çok nedeni olsa da en baskın olanı ayıp kavramının otonom sistemler bağlamında yarattığı belirsizliktir. Türk hukukuna da kaynaklık eden AB Ürün Sorumluluğu Yönergesi’ne göre ayıplı ürün, genelin haklı güvenlik beklentilerini karşılamayan ürün olarak tanımlanmış; diğer bir ifadeyle tüketici beklentilerine dayanan bir ölçüt benimsenmiştir. Öngörülemezlik, opaklık, karmaşıklık gibi özellikleri nedeniyle, otonom ürünlere ilişkin haklı güvenlik beklentilerinin belirlenemeyeceği iddia edilmiştir. Çalışmada detayları ile ortaya koyulan teze göre ise, tüketici beklentileri testi otonom ürünlerdeki ayıbın belirlenmesi bakımından yeterlidir. Bu test muğlak olması nedeniyle eleştirilmekle birlikte, farklı türden pek çok ürünün ayıplı olup olmadığının değerlendirilmesi bakımından yeterli esnekliği sağlamaktadır. Kaldı ki pek çok hâlde otonom sistemlere ilişkin tüketici beklentileri zaten belirli ya da en azından belirlenebilir durumdadır. Otonom sistemin donanımının zarara sebep olması, otonom sistemin arızalanması (malfunction), ürün güvenliği normlarının ihlal edilmiş olması, otonom sistemin yeterince güvenli olmadığının açıkça anlaşılabilir olduğu bazı hâllerdir. Bu ve başka durumlar çalışmada detaylı olarak açıklanmıştır. Ancak bazı hâllerde tüketici beklentileri gerçekten de belirsizdir. Otonom sistemin öngörülemez bir davranışla ya da öngörülemeyen veya oldukça istisnai çevre şartları altında zarara sebebiyet vermesi hâlinde, otonom sistemin tüketici beklentilerinin altında kalıp kalmadığını değerlendirmek zordur. Zira zarar öngörülemez bir şekilde meydana geldiğinden, somut bir ‘beklentiden’ söz etmek zordur. Çalışmada somut bir beklentiden söz edilemeyen hâllerde, ‘genel ve soyut haklı güvenlik beklentisi’ne başvurulması önerilmektedir. Bu beklenti, kaynağını üreticinin tehlikeyi uzaklaştırma yükümlülüğünden alır. Tehlikeli bir durumu yaratan ya da sürdüren kişi, bu tehlikeden kaynaklanan risklerin gerçekleşmemesi için önlem alma yükümlülüğü altındadır. Buna göre toplum da otonom sistem üreticisinin, otonom sistemin zarara sebebiyet verme ihtimali taşıyan yönlerini göz önünde bulundurmasını ve risklerin gerçekleşmemesi için önlem almasını beklemekte haklıdır. Otonom ürünün üreticisi tehlikeyi uzaklaştırma yükümlülüğü kapsamında yeterli önlemleri almış olmasına rağmen, yine de ürün zarara sebebiyet vermiş ise bu hâlde artık otonom ürünün ayıplı olduğu söylenemeyecektir. Çalışmada otonom ürün üreticisinin tehlikeyi uzaklaştırma yükümlülüğü detaylandırılmış ve buna paralel olarak genel ve soyut haklı güvenlik beklentisinin içeriği ortaya koyulmuştur.

Otonom ürünlerin neden olduğu zararlardan sorumlu olan ikinci kişi grubu işletenlerdir. Kısıtlı bir çevrede kullanılan ve minimal düzeyde risk içeren otonom sistemlerin işletenleri kusur sorumluluğuna (TBK m. 49); bir otonom sistemi adam çalıştırmak yerine ya da işletme faaliyeti kapsamında kullanan işletenler adam çalıştıranın sorumluluğuna (TBK m. 66) ve otonom sistemi önemli ölçüde tehlike arz eden bir işletme faaliyeti kapsamında kullanan işletenler tehlike sorumluluğuna (TBK m. 71) tabi olacaktır. Otonom ürünün türüne göre, özel kanunlarda (Karayolları Trafik Kanunu, Sivil Havacılık Kanunu gibi) öngörülen kusursuz sorumluluk hâlleri de uygulama alanı bulabilir.

Bu çok katmanlı yasal çerçeve, adil ve dengeli sonuçlar doğurmaya elverişlidir. Zira otonom sistemler çeşitli sektörlerde, birbirinden farklı tasarım ve kullanım şekilleriyle karşımıza çıkmaktadır. Sözleşme dışı sorumluluk hukukunun bu farklılıklara yanıt verebilmesi ancak çok katmanlı ve esnek bir yapı ile mümkün olacaktır. Yoksa otonom sistemin verdiği zararlardan tek bir hukuk süjesinin, sorumlu olması yaklaşımı (one size fits all approach) duruma uygun değildir. Bu doğrultuda otonom sistemlerin bazı yazarlarca ileri sürülenin aksine, köle ya da elektronik kişi olarak kabul edilmesine gerek yoktur. Zira bu önerilerin kabulünü gerektiren ontolojik sebepler olmadığı gibi; bunların kabulü hâlinde elde edilecek pratik ya da ekonomik bir fayda da bulunmamaktadır. Sonuç olarak çalışmada, sözleşme dışı sorumluluk hukukunun otonom sistemler bağlamında bir sorumluluk boşluğu içermediği ve büyük ölçüde yeterli olduğu kanaatine ulaşılmıştır.

Anahtar kelimeler: Otonom sistemler, Sorumluluk, Üretici, Ayıp, İşleten.

* Ankara Medipol Üniversitesi Hukuk Fakültesi Medeni Hukuk Anabilim Dalı