Yapay Zeka Halüsinasyonu ve Uydurma Kaynak: TÜBİTAK Projelerinde Etik İhlal Sorumluluğu

Üretken yapay zekâ (ÜYZ) araçlarının en tehlikeli yan etkilerinden biri halüsinasyon — modelin, eğitim verisinde bulunmayan ya da içsel sınırlamaları nedeniyle hatalı ürettiği, ancak kulağa doğru gelen çıktılardır. Araştırma ortamında bu halüsinasyonlar en sık uydurma kaynak, var olmayan mahkeme kararı, sahte atıf veya uydurulmuş istatistik biçiminde ortaya çıkar.

TÜBİTAK, bu durumu "Yanlış Bilgi Üretimi (Halüsinasyon / Konfabülasyon)" başlığı altında ele alır ve rehberde açıkça tanımlar: ÜYZ sistemlerinin, eğitim verilerinde yeterli bilgi bulunmadığında veya modelin içsel sınırlamaları nedeniyle ürettiği, kulağa makul gelen ancak gerçekte yanlış, anlamsız veya uydurma olan çıktılar.

Bu makalemizde; halüsinasyon olgusunu hukuki–etik açıdan değerlendirilmekte ve halüsinasyon sonucu ortaya çıkan uydurma kaynakların TÜBİTAK ve YÖK mevzuatındaki etik ihlal karşılığını, araştırmacı sorumluluğunu ve savunma stratejilerini yalnızca resmi birincil kaynaklara dayanılmaktadır.

Yasal uyarı: Bu içerik genel bilgilendirme amaçlıdır.

Yapay Zekâ Halüsinasyonu Nedir?

Halüsinasyon; ÜYZ sisteminin girdi ile mantıksal tutarlı gibi görünen, ancak gerçeği yansıtmayan ya da var olmayan verileri üretmesidir. Konfabülasyon terimi de benzer biçimde, modelin bilgi boşluklarını doldurmak için "uydurma" yapmasını anlatır. Akademik araştırmada en sık karşılaşılan halüsinasyon biçimleri şunlardır:

• Uydurma atıf — Gerçekte yayımlanmamış makalelere atıf verilmesi
• Sahte yazar adı — Var olmayan araştırmacıların isimlerinin üretilmesi
• Var olmayan mahkeme kararı — Gerçekte verilmemiş Yargıtay/Danıştay kararlarının gerçekmiş gibi sunulması
• Uydurulmuş istatistikler — Hiçbir resmi veri tabanında olmayan sayısal verilerin aktarılması
• Asıl kaynağa uymayan alıntılar — Gerçek kaynakların yanlış yorumlanması

YÖK Üretken Yapay Zekâ Etik Rehberi de ÜYZ'nin uydurma kaynakları gerçekmiş gibi sunabileceğini, kaynakların bilimsel kalitesini değerlendirmekten uzak kalabileceğini, güncel kaynakların tarama dışında kalabileceğini ve taraflılık gibi sorunlarla sık karşılaşılabileceğini açıkça belirtmektedir.

Etik soruşturma süreci hakkında ayrıntılı bilgi için, "TÜBİTAK ve YÖK Projelerinde Yapay Zeka Kullanımı Uydurma (Fabrication) Etik İhlali Riski" konusunda kaleme aldığımız makalemizi inceleyebilirsiniz.

Halüsinasyonun Etik İhlal Olarak Karşılığı

Halüsinasyon tek başına bir etik ihlal değildir; ancak halüsinasyon çıktısı araştırmaya dâhil edildiğinde, üretilen hata bir bilimsel yanıltma davranışına dönüşür. Burada belirleyici olan, sorumluluğun teknolojide değil, onu kullanan araştırmacıda olduğu ilkesidir.

Hukuki karşılık iki çerçevede belirgindir:

TÜBİTAK Çerçevesi

TÜBİTAK Araştırma ve Yayın Etiği Kurulu Yönetmeliği (247 sayılı Bilim Kurulu Kararı) Madde 9, ihlal davranışları arasında uydurma (fabrication), çarpıtma, aşırma, dilimleme, destekleyen kuruluşu belirtmeme, haksız yazarlık, kaynakların usulsüz kullanılması, görev ihmali ve istismarı ile asılsız etik ihlal iddiasını sayar.

YÖK Çerçevesi

Yükseköğretim Kurumları Bilimsel Araştırma ve Yayın Etiği Yönergesi, 2547 sayılı Yükseköğretim Kanunu'na dayanarak bilimsel araştırma ve yayın etiği ihlallerini düzenler; intihal, sahtecilik, çarpıtma, tekrar yayım (duplikasyon), dilimleme ve haksız yazarlık başlıca kategorileri oluşturur.

Halüsinasyon → Fabrikasyon (Uydurma) Zinciri

ÜYZ sistemi → Halüsinasyon → Uydurulmuş kaynak/veri/karar → Araştırmacının bu çıktıyı doğrulamadan kullanması → TÜBİTAK AYEK Md. 9 / YÖK Yayın Etiği Yönergesi kapsamında etik ihlal anlamına gelir.

Bu zincir somutlaştığında araştırmacı hakkında etik ihlal bildirimi süreci ya da TÜBİTAK AYEK incelemesi başlayabilir.

Araştırmacı Sorumluluğu: Hukuki Dayanaklar

Araştırmacının sorumluluğu hem TÜBİTAK rehberinde hem YÖK rehberinde açıkça tanımlanmıştır. Temel ilke şudur: ÜYZ bir araçtır; içeriğin doğruluğundan yalnızca araştırmacı sorumludur.

YÖK rehberinde ifade edilen yaklaşım; ÜYZ içeriklerinin akademik titizlik ve etik kurallara uygun olarak gözden geçirilmesi, içerik kontrolünün yapılması, raporlanması ve içeriğin doğruluğunun kullanıcının sorumluluğunda olmasıdır. Rapor içeriğinin, sonuçlarının ve argümanların sorumluluğu araştırmacıya aittir.

Aynı sorumluluk TÜBİTAK rehberinde de yer alır; ÜYZ aracından önemli ölçüde yararlanan başvuru sahiplerinin içeriğin doğruluğu, özgünlüğü ve etik uygunluğunun sorumluluğunu taşıdığı vurgulanır.

Sorumluluğun yasal çerçevesini destekleyen diğer mevzuat:

• 2547 sayılı Yükseköğretim Kanunu — Akademik disiplin ve etik çerçevesi.
• 5846 sayılı Fikir ve Sanat Eserleri Kanunu — Atıf ve eser hakları.
• 6698 sayılı KVKK — Kişisel veri işleme yasağının ÜYZ kullanımına yansıması.
• Lisansüstü Eğitim-Öğretim ve Sınav Yönetmeliği — Tez süreçlerinde etik çerçeve.

Halüsinasyonla üretilen uydurma kaynakların bir yayına dâhil edilmesi, eser sahipliğine konu eserin de özgünlüğünü ve bilimsel dayanağını zedeleyebilir; böyle bir durum akademik unvan süreçlerini ve yayın statüsünü etkileyebilir. Akademik davalar başlığı altında benzer süreçler ele alınmaktadır.

Halüsinasyonu Önlemek İçin Uygulanabilir Kontrol Yaklaşımı

YÖK Etik Rehberi'nin araştırmacı sorumluluğu vurgusu ve TÜBİTAK'ın "sorumlu kullanım" çerçevesi birlikte okunduğunda, araştırmacılar için pratik bir doğrulama akışı ortaya çıkar:

1. Kaynak doğrulaması — ÜYZ tarafından önerilen her atıf, makale, karar ya da veri birincil kaynakta teyit edilmelidir (mevzuat.gov.tr, resmigazete.gov.tr, yargitay.gov.tr, danistay.gov.tr, .edu.tr kütüphane portalları).
2. Atıf çapraz kontrolü — DOI/URL olmayan atıflar yüksek halüsinasyon riskli kabul edilmelidir.
3. Veri çapraz kontrolü — İstatistikler TÜİK, SGK veya ilgili bakanlık resmi veri tabanlarından doğrulanmalıdır.
4. Yasal metin kontrolü — Kanun, yönetmelik, yönerge atıfları mevzuat.gov.tr veya Resmî Gazete üzerinden karşılaştırılmalıdır.
5. Metin izi tutma — ÜYZ ile olan oturumların amacı, aşaması ve çıktıları belgelenmelidir; olası etik incelemede savunma için önemlidir.
6. Şeffaf beyan — TÜBİTAK ve YÖK rehberleri gereği kullanım beyanı hazırlanmalıdır.

Halüsinasyonlu Çıktıdan Kaynaklanan Etik İhlal Süreci

Halüsinasyon kaynaklı etik ihlal iddiasıyla karşılaşıldığında süreç tipik olarak şu aşamalarda ilerler:

1. İhbar / resen inceleme — TÜBİTAK AYEK veya üniversite etik kurulu inceleme başlatır.
2. Ön inceleme — İddia konusu içerik, kaynak doğrulaması ve ÜYZ kullanım iddiası yönünden değerlendirilir.
3. Savunma — İlgili kişinin yazılı savunması alınır; TÜBİTAK'a bağlı süreçlerde bir ay içinde mazeretsiz cevap verilmemesi durumunda savunma hakkından vazgeçilmiş sayılır.
4. Karar — Etik ihlal tespit edilirse, davranışın niteliğine göre yaptırım belirlenir.
5. Disiplin süreci — 2547 sayılı Kanun ve ilgili yönetmelikler çerçevesinde disiplin soruşturması yürütülür.
6. Yargısal denetim — Kararlara karşı idare mahkemeleri önünde iptal davası açılabilir.

Halüsinasyon Kaynaklı İhlalde Savunma Stratejisi

Savunmanın temel eksenleri şunlar olabilir:

• Belgelenmiş doğrulama süreci — Araştırmacının ÜYZ çıktısını doğrulama için harcadığı emek ve kullanılan yöntemler arz edilmelidir.
• Kullanımın beyan edilmiş olması — Şeffaflık ilkesinin uygulandığını gösteren belgeler sunulmalıdır.
• Hata düzeyinin değerlendirilmesi — Kastın ve bilinçli eylemin yokluğunun vurgulanmalıdır.

Hukuki Riskler ve Ek Boyutlar

Halüsinasyon kaynaklı hata yalnızca etik sorunla sınırlı değildir:

• Fikri mülkiyet — Uydurma bir atıfla verilen kaynak, gerçek bir eseri bağlam dışı kullanım suretiyle mali/hukuki sonuçlar doğurabilir (5846 sayılı Kanun çerçevesinde).
• Kişisel veriler — ÜYZ'ye bilgi girilirken kişisel veri aktarımı yapıldıysa, 6698 sayılı KVKK çerçevesinde ayrı bir hukuki değerlendirme gerekir.
• Haksız fiil sorumluluğu — Üçüncü kişiler hakkında uydurulmuş bilgi yayımlanması, kişilik haklarına saldırı iddiasını gündeme getirebilir.
• İdari yaptırımlar — Etik ihlal kararları, unvan kaybı ya da yayın geri çekmelerine neden olabilir.

Bu bakımdan halüsinasyon riski, yalnızca akademik değil, aynı zamanda idari ve hukuki bir yönetim meselesidir.

Sıkça Sorulan Sorular (SSS)

ChatGPT'nin uydurduğu kaynağı makalemde kullandım, sorumluluk kimde?

TÜBİTAK ve YÖK rehberleri, içeriğin doğruluğundan araştırmacının sorumlu olduğunu açıkça belirtir. Aracın halüsinasyon görmüş olması kullanıcıyı sorumluluktan kurtarmaz. Uydurulmuş kaynağın araştırmaya dâhil edilmesi, TÜBİTAK AYEK Yönetmeliği Madde 9 veya YÖK Yayın Etiği Yönergesi kapsamında etik ihlal olarak değerlendirilebilir.

Halüsinasyon kaynaklı etik ihlalde kasıt aranır mı?

Etik ihlallerin tespitinde eylem ve sonuç belirleyicidir; ancak kasıt ya da ağır ihmalin varlığı, verilecek yaptırımın ağırlığında belirleyici olabilir. Savunma sürecinde doğrulama emeğinin belgelenmesi önem taşır.

Yapay zekânın ürettiği uydurma Yargıtay kararı nasıl tespit edilir?

Her karar yargıtay.gov.tr ve Ulusal Yargı Ağı Projesi (UYAP) gibi resmi kaynaklarda doğrulanabilir. Danıştay kararları için danistay.gov.tr esas alınır. Birincil kaynakta teyit edilmeyen kararlar araştırmaya dâhil edilmemelidir.

Halüsinasyon gerekçesiyle etik ihlalden aklanabilir miyim?

Aklanma, somut olayın bütününe bağlıdır. Beyanın yapılmış olması, doğrulama sürecinin belgelenmesi ve düzeltici aksiyonun alınmış olması savunma açısından güçlü destek sağlar. Aklama garantisi verilemez.

Halüsinasyon kaynaklı etik ihlal suç oluşturur mu?

Etik ihlal ile ceza hukuku ayrı boyutlardır. Ancak sahte belge üretme, kişilik haklarına saldırı ya da haksız fiil boyutlarında ayrı hukuki süreçler gündeme gelebilir; bu her somut olay için bağımsız bir değerlendirmeyi gerektirir.

Sonuç ve Hukuki Öneriler

Üretken yapay zekâ halüsinasyonu, araştırmacılar için hem bilimsel hem de hukuki bir risk kategorisidir. TÜBİTAK ve YÖK rehberleri, halüsinasyonu açıkça tanımlamış ve doğrulama sorumluluğunu araştırmacıya bırakmıştır. Halüsinasyon kaynaklı uydurma kaynaklar bilimsel yanıltma davranışlarını oluşturabilir; etik ihlalden disiplin cezalarına, unvan kaybından yayın geri çekmesine kadar uzanan sonuçlara yol açabilir.

Hukuki destek: Halüsinasyon kaynaklı bir etik ihlal iddiasıyla karşılaştıysanız Büken Hukuk & Danışmanlık ile iletişime geçerek somut olayınızı değerlendirebilirsiniz.