Yapay zeka sistemleri artık yalnızca teknik laboratuvarların konusu değil. Eğitimden sağlığa, belediye hizmetlerinden medya üretimine kadar pek çok alanda kararların hazırlanmasına, sıralanmasına veya gerekçelendirilmesine katılıyorlar. Bu nedenle mesele, yeni bir aracın verimli kullanımıyla sınırlı değil; kamusal aklın hangi koşullarda üretildiğiyle ilgili.
Bir teknolojinin yaygınlaşması çoğu zaman iki zıt beklentiyi aynı anda doğurur. İlk beklenti, kararların daha hızlı ve daha nesnel alınacağıdır. İkinci beklenti ise karar alma süreçlerinin daha kapalı, daha merkezi ve daha zor denetlenebilir hale geleceğidir. Yapay zeka tartışmasını ciddiye almak, bu iki beklentinin de basitçe doğru ya da yanlış olmadığını kabul etmekle başlar.
Uzmanlık ve açıklanabilirlik
Kamusal kararlar yalnızca sonuçlardan ibaret değildir. Bir kararın nasıl alındığı, hangi veriye dayandığı, hangi varsayımları taşıdığı ve kimler tarafından denetlendiği de kararın meşruiyetinin parçasıdır. Algoritmik sistemler bu zincirin bazı halkalarını hızlandırabilir; fakat aynı zamanda gerekçeyi görünmez kılabilir.
Şeffaflık, yalnızca teknik belgelerin yayımlanması değil; yurttaşların kararın gerekçesini takip edebileceği bir kamusal dilin kurulmasıdır.
Bu nedenle açıklanabilirlik meselesi yazılım mimarisine hapsedilemez. Kamu kurumlarının, üniversitelerin ve medya kuruluşlarının algoritmik araçları nasıl kullandıklarını açıkça anlatmaları gerekir. Daha önemlisi, yanlış kararların nasıl düzeltileceği ve itirazların nasıl değerlendirileceği baştan tanımlanmalıdır.
Bilimsel iletişimin yeni eşiği
Bilimsel bilgi uzun zamandır uzmanlık ile kamusal tartışma arasındaki gerilimli alanda dolaşıyor. Yapay zeka bu gerilimi artırıyor, çünkü bilgiye erişimi kolaylaştırırken bilginin kaynağını belirsizleştirebiliyor. Bir yanıtın ikna edici görünmesi, onun güvenilir olduğu anlamına gelmiyor.
Bu noktada bilimsel iletişimin görevi değişiyor. Artık yalnızca doğru bilgiyi görünür kılmak yetmiyor; bilginin hangi yöntemlerle üretildiğini, hangi belirsizlikleri içerdiğini ve hangi sınırlar içinde kullanılabileceğini de anlatmak gerekiyor. Kamusal akıl, kesinlik iddiasıyla değil, gerekçeli tartışma alışkanlığıyla korunabilir.
Bir yönetim sorusu
Yapay zeka politikası teknik bir satın alma dosyası gibi ele alınırsa, toplumun asıl tartışması ertelenmiş olur. Hangi alanlarda otomasyon kabul edilebilir? Hangi kararlarda insan sorumluluğu devredilemez? Hangi veri setleri kamu yararı adına kullanılabilir, hangileri kullanılamaz? Bu sorular teknik olduğu kadar siyasidir.
Bilim ve toplum arasındaki ilişkiyi güçlendirmek, teknolojiyi reddetmek anlamına gelmez. Tersine, teknolojinin hangi değerlerle, hangi denetim mekanizmalarıyla ve hangi kamusal amaçlarla kullanılacağını açıkça konuşmak anlamına gelir. Yapay zeka çağında kamusal akıl, ancak bu konuşma sürdürülürse korunabilir.