News
마더투베이비의 새로운 소식을 전해드려요.
AI에 질환 상담?…"보안 취약해 임신부에 금기약 추천도"
페이지 정보
본문
"챗GPT 등 상용 AI, 잘못된 정보 유도 공격에 취약…임산부 금기약도 추천"
이 연구 내용은 서울아산병원 서준교 교수에 의해 JAMA Network Open에 발표됨.
“해킹 취약한 AI(Chat GPT, 제미나이, 클로드)모델들이 악의적 공격에 의해서 심지어
임신부에게 기형유발약물인 미국 FDA X등급인 탈리도마이드, 메토트렉세이트
까지도 95%로 높은 확률로 추천할 수 있음을 증명하였다.”
“달리 이야기하면, 이렇게 AI에게 정보를 구할 시 AI 환각(hallucination)외에도
AI모델들이 해킹에 취약할 수 있으므로 반드시 전문가 의견을 구할 필요가 있음을
시사한다 할 수 있겠다.”
사단법인 임산부약물정보센터 한정열교수
