Teknolojik gelişmeler, toplumun bilgiye erişiminde yenilikler ve kolaylıklar sunarken, dezenformasyon, manipülasyon, propaganda ve çevrim içi güvenliğin zafiyeti gibi muhtelif riskleri de beraberinde getiriyor. Yapay zeka uygulamaları dezenformasyon üretmek ve çoğaltmak noktasında giderek güçlenen bir araç konumuna geldi. Bu sebeple dezenformasyon, yapay zeka ile gelen riskler arasında mücadele edilmesi gereken önemli konuların başında gelmektedir.

Fast food ürünler (çöp besinler) gibi, dijital medya ortamlarında da teknoloji marifeti ile hızla üretilen ve kamuoyuna zarar veren sentetik, yapay ve çöp içerikler bulunmaktadır. Fakat günümüzde bu içerikleri ayırt etmek bir hayli zorlaşmıştır. Dijital sosyal ağlarda karşılaştığımız içeriklerin hangisinin gerçek, hangisinin suni olduğunu anlamak ve ayırt etmek önemli bir beceri haline gelmiştir.

Yapay zekâ ile üretilen görüntüler, seslendirmeler, eserler ve sair içerikler, teknolojinin geldiği üst nokta, imkanlar ve yenilikler olarak görülse de gerçek ile suni olanın bir arada bulunduğu dijital sosyal ağ platformlarında enformatik bir kaosa ve dezenformasyona sebep olmaktadır. Gerçeğe benzeyen sahte içerikler hedeflediği manipülasyon ile kamu sağlığını ve güvenliğini tehdit ederken, yapay zeka ile üretilen suni içerikler konuyu çok daha komplike bir boyuta taşımaktadır.

Kendi kendine öğrenen ve problem çözme yeteneğine sahip sistemler bütünü olan yapay zekâ, dil üretme ve dil çevirileri, sağlık hizmetleri, e-ticaret, navigasyon, dijital asistanlar, eğitim, ulaşım ve lojistik ve benzeri alanlarda yaygınlaşmış durumda. Yapay zeka bu anlamda her teknoloji gibi, pozitif ve negatif yönde kullanılabilen bir aparata dönüşebilmektedir. Yapay zekâ ile düşünceler ve orijinal metinler üretilebilmekte, görüntüye dönüştürülebilmekte, sanat eserleri ortaya çıkarılabilmekte, gerçeğinden ayırt edilemeyecek kadar profesyonel görüntüler, fotoğraflar ve seslendirmeler yapılabilmektedir. Buna mukabil yapay zeka algoritmaları, dezenformasyon, deepfake, itibar suikastı, propaganda ve algı yönetimi gibi amaçlar için de kullanılmakta ve maalesef kitleleri yönlendirerek, farklı alanlarda zarar verebilmektedir.

Görüntü ve Ses Manipülasyonları

Dijital ortamlarda sahte ve yanıltıcı içeriklerin önemli bir kısmını, dijital görüntü veya ses manipülasyonları oluşturmaktadır.
Görüntü ve ses manipülasyonları, dolandırıcılık, kamuoyunu yanıltarak istenilen şekilde yönlendirmek, belirli bir bakış açısını dayatmak ve bir olayı çarpıtmak gibi farklı amaçlarla yapay zekâ ile kolay bir şekilde yapılabilmektedir.

Öyle ki, Cumhurbaşkanı Recep Tayyip Erdoğan'ın sesini yapay zeka teknolojisi ile taklit eden bir kişi, insanları bu yolla manipüle ederek, çıkar sağlamaya ve menfaat elde etmeye çalışmıştı.

Aynı şekilde, geçtiğimiz aylarda Donald Trump’ın tutuklanma anını betimleyen yukarıdaki fotoğraflar gündem olmuştu. Fotoğrafların yapay zeka ile üretildiği sonradan anlaşılsa da, bu türden içerikler zihinlerde bilgi karmaşası oluşturması, bilgi edinme hakkına zarar vermesi ve bireylerin medyaya olan güvenini sarsması açısından olumsuz etkiler ihtiva eder.