ChatGPT'nin tıbbi önerileri nadir görülen bir psikoza sebep oldu!

60 yaşındaki bir adam, sofra tuzu yerine sodyum bromür kullanmak için ChatGPT’den tavsiye aldı. Sodyum bromür, tıpta uzun süredir kullanılmayan ve bromizm adı verilen nadir bir zehirlenmeye neden olan bir bileşik. Adam zamanla bromizm hastalığına yakalandı ve halüsinasyonlar, paranoya gibi nöropsikiyatrik semptomlar geliştirdi. Hastaneye kaldırıldığında, susuz kalmayı tercih etti ve durumu hızla kötüleşti. Bu vakada, ChatGPT’nin verdiği tavsiyelerin sağlık açısından kritik sonuçları oldu. Yapay zekanın tıbbi tavsiyelerde bağlamı yeterince dikkate almaması ciddi tehlikelere yol açabilir.

Bromizm hastalığı ve yapay zekanın sınırlamaları

Bromizm, kronik bromür maruziyeti sonucu ortaya çıkan, 1900’lerin başında sık görülen ancak günümüzde nadir olan bir nörotoksik hastalık. Uzun süreli bromür kullanımı sinir sistemi bozukluklarına ve psikoz belirtilerine neden olabiliyor. ChatGPT’nin bromürle ilgili önerileri, tıbbi uyarılar olmadan sunuldu ve hastanın zarar görmesine yol açtı. Araştırmacılar, yapay zekanın bağlamı anlamakta yetersiz kaldığını ve kritik sağlık uyarılarını vermediğini belirtti. Bu durum, yapay zekanın tıbbi danışmanlıkta riskli olabileceğini ortaya koyuyor. Yapay zeka, klinik değerlendirme ve uzman gözetimi olmadan güvenilir sağlık rehberi olamaz.

Yapay zekanın sağlık alanındaki potansiyeli ve tehlikeleri

Yapay zeka sağlıkta büyük vaatler taşıyor ve bazı durumlarda hastalık teşhisinde başarı sağlıyor. Ancak uzmanlar, yapay zekanın yalnızca sertifikalı sağlık uzmanlarının gözetimi altında kullanılmasının gerektiğini vurguluyor. Yapay zeka sistemleri, özellikle nadir hastalıkların teşhisinde hâlâ önemli sınırlamalara sahip. OpenAI gibi firmalar, zararlı önerileri azaltmak ve güvenliği artırmak için sürekli iyileştirme yapıyor. GPT-5 gibi yeni modeller, “güvenli tamamlamalar” ile hatalı tavsiyeleri azaltmayı amaçlıyor. Fakat nihai karar ve tedavi mutlaka tıbbi uzmanlar tarafından verilmelidir.

Gelecekte yapay zeka ve tıp ilişkisi nasıl şekillenecek?

Yapay zeka sağlık sektöründe değerli bir yardımcı olabilir ancak bağımsız karar alma yeteneği yoktur. Klinik değerlendirmeler, fiziksel muayene ve uzman yorumları vazgeçilmezdir. Yapay zekanın doğru ve güvenli kullanımı, eğitim ve farkındalıkla desteklenmelidir. Teknolojinin ilerlemesi, tıbbi rehberlikte yeni araçlar sunacak ancak etik ve güvenlik öncelikli kalacak. Kullanıcılar, sağlık konularında yapay zekaya tamamen güvenmekten kaçınmalıdır. Bu vaka, yapay zeka tabanlı tıbbi tavsiyelerin dikkatli ve bilinçli kullanılmasının önemini gösteriyor.