Yapay zeka ikna ediyor ama yalan söylüyor

**Oblivion** · 05 Aralık 2025, 09:15

İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından, aralarında ChatGPT ve Elon Musk’ın Grok’u gibi gelişmiş modellerin de bulunduğu 19 farklı yapay zekâ modeli ve yaklaşık 80 bin İngiliz katılımcıyla dev bir çalışma gerçekleştirildi.

Araştırmada katılımcılar, "kamu sektörü maaşları ve grevler" veya "geçim krizi ve enflasyon" gibi siyasi konular hakkında, kendilerini belirli bir görüşe ikna etmeye programlanmış yapay zekâlarla sohbet etti.

Science dergisinde yayımlanan bu çalışmanın ana bulgusu netti: "Bilgi yoğun" yanıtlar veren yapay zeka modelleri en ikna edici olanlardı. Modelin, özellikle olay ve kanıt kullanmaya odaklanması istendiğinde ikna gücü en yüksek seviyeye çıktı.

Ancak çarpıcı bir şekilde, en fazla olaya ve kanıta başvuran modeller, diğerlerinden daha az doğru olma eğilimindeydi.

Araştırmacılar, sonuçların "İkna ediciliği optimize etmenin, doğruluktan feragat etme gibi bir maliyeti olabileceğini gösterdiğini" belirterek, bunun kamuoyu ve bilgi ortamı için kötü niyetli sonuçlar doğurabileceği uyarısında bulundu.

İnsanlardan daha manipülatif olma potansiyeli
Rapora göre, yapay zeka sisteminin anlık olarak büyük miktarda bilgi üretme yeteneği, onu en yetenekli insan ikna edicilerden bile daha manipülatif hale getirebilir.

Raporun yazarlarından AISI araştırmacısı Kobi Hackenburg, "Modellere sadece daha fazla bilgi kullanmalarını söylemenin, psikolojik olarak daha karmaşık ikna tekniklerinden daha etkili olduğunu görüyoruz," dedi.

Araştırmacılar, Meta’nın Llama 3 ve Alibaba’nın Qwen’i gibi açık kaynaklı modellerin bile, en ikna edici çıktıları öneren "ödül modelleri" ile birleştirilerek daha inandırıcı hale getirilebildiğini ekledi.

Ancak araştırmada, bir kullanıcının siyaset üzerine bir sohbet robotuyla 10 dakikalık uzun bir sohbete girmeye ne kadar istekli olacağı gibi gerçek dünyadaki dikkat dağıtıcı unsurların yapay zekânın manipülasyon yeteneğini sınırlayabileceği de belirtildi.

Alıntı

05 Aralık 2025, 09:15	#1
Çevrimiçi Oblivion Ruh HalimOdakli	Yapay zeka ikna ediyor ama yalan söylüyor Yapay zeka ikna ediyor ama yalan söylüyor Www.TrendForum.Net İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından, aralarında ChatGPT ve Elon Musk’ın Grok’u gibi gelişmiş modellerin de bulunduğu 19 farklı yapay zekâ modeli ve yaklaşık 80 bin İngiliz katılımcıyla dev bir çalışma gerçekleştirildi. Araştırmada katılımcılar, "kamu sektörü maaşları ve grevler" veya "geçim krizi ve enflasyon" gibi siyasi konular hakkında, kendilerini belirli bir görüşe ikna etmeye programlanmış yapay zekâlarla sohbet etti. Science dergisinde yayımlanan bu çalışmanın ana bulgusu netti: "Bilgi yoğun" yanıtlar veren yapay zeka modelleri en ikna edici olanlardı. Modelin, özellikle olay ve kanıt kullanmaya odaklanması istendiğinde ikna gücü en yüksek seviyeye çıktı. Ancak çarpıcı bir şekilde, en fazla olaya ve kanıta başvuran modeller, diğerlerinden daha az doğru olma eğilimindeydi. Araştırmacılar, sonuçların "İkna ediciliği optimize etmenin, doğruluktan feragat etme gibi bir maliyeti olabileceğini gösterdiğini" belirterek, bunun kamuoyu ve bilgi ortamı için kötü niyetli sonuçlar doğurabileceği uyarısında bulundu. İnsanlardan daha manipülatif olma potansiyeli Rapora göre, yapay zeka sisteminin anlık olarak büyük miktarda bilgi üretme yeteneği, onu en yetenekli insan ikna edicilerden bile daha manipülatif hale getirebilir. Raporun yazarlarından AISI araştırmacısı Kobi Hackenburg, "Modellere sadece daha fazla bilgi kullanmalarını söylemenin, psikolojik olarak daha karmaşık ikna tekniklerinden daha etkili olduğunu görüyoruz," dedi. Araştırmacılar, Meta’nın Llama 3 ve Alibaba’nın Qwen’i gibi açık kaynaklı modellerin bile, en ikna edici çıktıları öneren "ödül modelleri" ile birleştirilerek daha inandırıcı hale getirilebildiğini ekledi. Ancak araştırmada, bir kullanıcının siyaset üzerine bir sohbet robotuyla 10 dakikalık uzun bir sohbete girmeye ne kadar istekli olacağı gibi gerçek dünyadaki dikkat dağıtıcı unsurların yapay zekânın manipülasyon yeteneğini sınırlayabileceği de belirtildi. Alıntı __________________ 𝒯𝓊𝒹ℴ ℯ́ ℳ𝓊𝒾𝓉ℴ ℳℯ𝓁𝒽ℴ𝓇 𝒮ℯ𝓂 𝒱ℴ𝒸ℯ̂ [Sadece kayıtlı ve aktif kullanıcılar bağlantıları görebilir. ]

Benzer Konular
Konu	Konuyu Başlatan	Forum	Yanıtlar	Son Mesaj
Yapay zeka teknolojisi ne kadar ileri gidecek? Yapay zekayı hangi alanlarda kullanıyorsunuz ve bu konuda nereden bilgi ediniyorsunuz?	Elysian	Trend Sorular	3	01 Temmuz 2025 10:53
Yapay zeka kadın avatarları-2025 yapay zeka avatarlar	Chiron	Avatarlık Resimler & Hareketli Gifler	32	02 Mayıs 2025 01:17
"Hasan Arat yalan söylüyor, çirkin işlere imza atıyor”	KoJiRo	Beşiktaş	0	14 Mart 2024 19:11
Samsung Electronics, Açacağı Galaxy Deneyim Alanlarıyla Kullanıcılarını Yeni Galaxy Yapay Zeka Çağına Davet Ediyor	KoJiRo	Teknoloji Trend Haberleri	0	12 Ocak 2024 14:29
Yapay Zekanın Tarihi #2 - Herkes İçin Yapay Zeka	DeepSilence	Teknoloji Trend Haberleri	0	05 Temmuz 2023 18:20

Şu anda bu konuyu görüntüleyen etkin kullanıcılar: 1 (0 üye ve 1 konuk)

Yapay zeka ikna ediyor ama yalan söylüyor

Dünya'nın her bir yerinden en sıcak gelişmelere buradan ulaşabilirsiniz.