Ben bir yazılımcıyım. Yapay zekâ ile çalışan bir video özetleyici uygulaması geliştiriyorum. Bu yazılım, bir videoyu izleyip içeriğini özetleyecek şekilde çalışıyor. Ama aklıma takılan bir mesele var: Yapay zekâlar internetteki çok büyük verilerle eğitildiği için, bazen küfür içerikli videoları da özetleyebilir ve bu özetlerde küfür ifadeleri geçebilir. Ya da diyelim ki bir chatbot geliştiriyorum, eğer sistemdeki bir hata ya da kullanılan veriler sebebiyle bu chatbot elfaz-ı küfür içeren cümleler kurarsa veya İslam'a aykırı, karşı bir şeyler söylemeye başlarsa, bu durumda da sorumluluk bana mı ait olur diye endişe ediyorum. Acaba böyle bir durumda, bu sözleri ben söylemiş gibi günaha girer miyim? Yoksa kullanıcıların yaptığı işlemlerden sorumlu değilim diyerek, uygulama içine “Yapay zekâ hata yapar, geliştirici yapılan özetlerden ve içeriklerden sorumlu değildir” gibi bir uyarı eklemem yeterli olur mu? Yoksa daha sağlam olması için, açık küfür ve haram içerikleri filtreleyecek bir sistem de eklemem gerekir mi? Ya bu filtre çalışmaz ise? Yine de sorumlu olur muyum? Bu konuda çok stresliyim. Hem vebalden korunmak hem de kazancımın helal olması için ne yapmalıyım?
**
*** ***
