Yeni bir araştırma, yapay zeka sohbet botlarının sağlık alanındaki yanıtlarında ciddi sorunlar bulunabileceğini ortaya koydu. Çalışmaya göre sağlık konulu sorulara verilen cevapların önemli bölümü eksik, hatalı veya yanıltıcı bilgiler içeriyor. Araştırmada ChatGPT, Gemini, Grok, Meta AI ve DeepSeek gibi popüler araçlar incelendi.
50 Tıbbi Soru Soruldu
BMJ Open’da yayımlanan çalışmada araştırmacılar, beş farklı yapay zeka sistemine şu alanlarda toplam 50 soru yöneltti:
- Kanser
- Aşılar
- Kök hücre tedavileri
- Beslenme
- Atletik performans
- Genel sağlık konuları
Uzman değerlendirmesine göre yanıtların:
- Yüzde 20’si yüksek derecede sorunlu
- Yüzde 50’si sorunlu
- Yüzde 30’u kısmen sorunlu bulundu
Kaynak Gösterme Sorunu Tespit Edildi
Araştırmada incelenen sistemlerin hiçbirinin tamamen doğru ve eksiksiz kaynakça sunamadığı belirtildi. Verilen referanslarda şu hatalar görüldü:
- Yanlış yazar isimleri
- Çalışmayan bağlantılar
- Gerçekte olmayan makaleler
- Eksik kaynak bilgileri
Bu durum özellikle sağlık gibi kritik alanlarda güven sorunu oluşturuyor.
Açık Uçlu Sorularda Hata Artıyor
Araştırmaya göre “evet-hayır” tarzı net sorularda yapay zekâ daha başarılı sonuçlar verdi. Ancak kullanıcıların günlük yaşamda sık sorduğu açık uçlu sorularda hata oranı yükseldi. Açık uçlu sorulara verilen yanıtların yüzde 32’si yüksek derecede sorunlu olarak değerlendirildi.
Kullanıcı Doğru Bilgiye Ulaşmakta Zorlanıyor
Nature Medicine’de yayımlanan başka bir araştırmada ise yapay zekâ sistemlerinin teorik olarak yüksek doğrulukla yanıt verebildiği, ancak gerçek kullanıcıların bu araçları kullanırken doğru sonuca ulaşma oranının ciddi şekilde düştüğü belirtildi.
Uzmanlardan Uyarı
Bilim insanları, yapay zekânın doktor yerine kullanılmaması gerektiğini vurguladı. Uzmanlara göre bu araçlar:
- Karmaşık bilgileri özetlemek
- Doktora sorulacak soruları hazırlamak
- Genel bilgi edinmek
için yardımcı olabilir. Ancak tanı, tedavi ve ilaç kullanımı gibi konularda mutlaka sağlık profesyonellerine başvurulması gerekiyor.
