Microsoft'un yeni yapay zekası hala "insan doktorlardan 4 kat daha doğru" olabilir mi?

Üretken yapay zeka araçları, özellikle tıbbi tavsiyeler konusunda ne kadar güvenilir oldukları sorusunu gündeme getiriyor. Microsoft'un yeni yapay zeka tıbbi aracı, "insan doktorlardan 4 kat daha doğru" olarak tanıtılsa da, yeni yapılan araştırmalar bu tür araçların tehlikeli sonuçlar doğurabileceğini ortaya koyuyor. Özellikle, kullanıcıların tıbbi tavsiye almak için yazım hataları yapması veya belirsiz dil kullanması, sohbet robotlarının doğru tavsiyelerde bulunmasını zorlaştırıyor. Yapay zeka sistemlerinin tıbbi alanlarda kullanılabilirliği konusunda endişeler giderek artıyor. Çalışmalar, yazım hatalarının ve belirsiz ifadelerin yapay zekanın verdiği tıbbi tavsiyeleri değiştirebileceğini ve bazen hastaları hastaneye gitmemek gibi yanlış kararlar almaya yönlendirebileceğini ortaya koyuyor.
Çalışmada kullanılan yapay zeka araçlarının başında OpenAI'nin GPT-4'ü, Meta'nın LLama-3-70b'si ve Palmyra-Med gibi tıbbi yapay zekalar yer alıyor. Araştırmalar, bu araçların kullanıldığı tıbbi testlerde, yanlış yazılmış cümleler veya tutarsız büyük harf kullanımlarının hastaların doğru tedaviye yönlendirilmemesine neden olabileceğini gösteriyor. Bu sorun, yapay zekanın tıbbi alandaki güvenilirliğini ciddi şekilde sorgulatan bir faktör.

Yazım hataları, yapay zekanın tıbbi kararlarını etkiliyor

Yapay zeka tıbbi tavsiye verirken, yalnızca doğru veriyi işlemekle kalmıyor, aynı zamanda kullanıcının yazım hatalarını ve dil bozulmalarını da hesaba katıyor. Araştırmalar, yazım hatalarının, cümledeki belirsizliklerin ve abartılı dil kullanımının tıbbi tavsiyelerdeki doğruluğu olumsuz etkilediğini gösteriyor. Yapay zekaların, hastaların sağlık verilerini değerlendirirken bu tür hatalarla karşılaştığında, hastayı hastaneye gitmeme yönünde tavsiyede bulunma olasılığı artabiliyor. Bu gibi hataların, potansiyel olarak ciddi sağlık problemlerini göz ardı etme riski taşıdığı düşünülüyor.
Bulgular, yapay zekaların tıbbi alandaki entegrasyonunun zorluklarını gözler önüne seriyor. Bu araçlar çoğunlukla tıbbi literatür üzerinden eğitiliyor ve gerçek klinik vakalarda kullanıldığında ortaya çıkan sorunlar, sistemlerin ne kadar sınırlı olduğunu gösteriyor. Yapay zeka modelleri, genellikle tıbbi sınav soruları üzerinden test ediliyor ancak gerçek dünyadaki klinik vakaları değerlendirmekte zorlanıyor. Bu da, sağlık alanındaki yapay zeka araçlarının ne kadar güvenilir olduğu konusunda önemli soru işaretleri oluşturuyor.