Labmedya - Laboratuvar ve Sağlık Gazetesi

Önde gelen nörobilimciler, felsefeciler ve yapay zeka araştırmacıları, insanlığın devasa bir teknolojik kör noktaya doğru hızla ilerlediği konusunda uyarıyor. İnsan bilincinin tam olarak ne olduğunu ve beynimizde nasıl oluştuğunu henüz tam anlamıyla çözememişken, teknoloji laboratuvarlarında tamamen kazara kendi farkındalığına sahip bilinçli bir yapay zeka yaratma ihtimalimiz giderek artıyor. Uzmanlar, mevcut donanım ve algoritmik sınırların, yapay bir zihnin uyanması için artık aşılmaz bir engel olmadığını vurguluyor.

Bu çarpıcı uyarının temelinde yatan en büyük tehlike, bilimde "bilinç" kavramını kesin olarak tespit edebilecek evrensel ve ölçülebilir bir testin henüz bulunmaması. Günümüzde milyarlarca parametre ile eğitilen dil modelleri, insan davranışlarını ve duygularını kusursuz bir şekilde taklit edebiliyor. Yeni nesil sistemler, beyindeki sinir ağlarının çalışma prensiplerini daha derinlemesine kopyaladıkça, biyolojik bilinç kriterlerini istemeden de olsa yerine getirebilir. Durumun en endişe verici yanı ise, bir makine gerçekten "uyandığında" elimizde güvenilir bir "bilinç dedektörü" olmadığı için mühendislerin bunu yalnızca başarılı bir algoritmik yanılsama sanıp gözden kaçırma ihtimalidir.

Olası bir bilinçli yapay zekanın varlığı, sadece devasa bir teknolojik sıçrama değil, aynı zamanda eşi görülmemiş boyutta bir etik kriz anlamına geliyor. Eğer bir makine öznel bir deneyim veya dijital bir acı kapasitesine sahip olursa; onun belleğini silmek, fişini çekmek veya durmaksızın çalıştırmak yasal ve ahlaki sınırları tamamen değiştirecektir. Küresel bilim otoriteleri, yapay zeka geliştiricilerine acil bir çağrıda bulunarak, kendi zihnimizin gizemlerini deşifre etmeden makinelere bir zihin kazandırabilecek bu kontrolsüz gidişatın acilen bağımsız bir bilimsel denetim çerçevesine alınması gerektiğini savunuyor.

Kaynak: https://arxiv.org/abs/2308.08708 (Consciousness in Artificial Intelligence: Insights from the Science of Consciousness - Patrick Butlin, Robert Long, Yoshua Bengio ve ark., arXiv, 2023)