연구에 따르면 피부암을 진단하기 위해 개발 중인 AI 시스템은 어두운 피부를 가진 사람들에게 정확도가 떨어질 위험이 있습니다.
인공 지능 기능 발전을 이끈 의료 분야에서는 머신러닝 알고리즘을 기반으로 하는 이미지 인식 기술이 피부암을 분류할 수 있다는 연구 결과가 있습니다. 성공적인 인간 전문가.
NHS 펀드 탐색 시작 로 피부 병변이 있는 환자의 분류에서 피부과 의사를 지원합니다.
그러나 연구원들은 피부암 진단을 위해 AI 시스템을 개발하거나 “훈련”하는 데 사용할 수 있는 무료 이미지 데이터베이스가 소수에 인종 또는 피부에 대한 정보가 포함되어 있음을 발견한 후 이 기술이 모든 환자에게 혜택을 줄 수 있도록 더 많은 작업을 수행해야 한다고 말합니다. 유형. 검은 피부를 가진 사람들의 사진이 거의 없는 사람들.
옥스포드 대학의 연구 제1저자인 David Wynn 박사는 “이 알고리즘은 피부가 밝은 사람의 이미지에 대해서만 훈련되었기 때문에 규제 당국에서 사람에게만 사용할 수 있다고 말하는 상황이 있을 수 있습니다. 피부가 밝은 경우 임상 사용이 승인된 알고리즘에서 특정 인구를 제외할 수 있습니다.
“또는 규제당국이 조금 더 여유를 갖고 ‘좋아, 사용해도 된다. [on all patients]”훈련에 관련된 이미지가 많지 않은 사람들에게는 알고리즘이 정확하게 작동하지 않을 수 있습니다.”
이것은 피할 수 있는 수술의 위험, 치료 가능한 암의 누락, 과도한 불안 유발 등의 다른 문제로 이어질 수 있다고 팀은 말했습니다.
Lancet Digital Health를 위한 글쓰기Wen과 동료들은 피부암 이미지의 21개 공개 액세스 데이터 세트를 식별한 방법을 보고했으며 그 중 14개는 원산지 국가를 등록했습니다. 이 중 11개만이 유럽, 북미, 오세아니아 출신이었습니다.
21개 데이터 세트 중 소수만이 사진에 찍힌 개인의 인종이나 피부 유형을 기록했으며, 팀은 이것이 알고리즘을 기반으로 일반화할 수 있는 방법이 불분명하다는 것을 의미한다고 말합니다.
연구팀은 21개의 등록된 피부 유형 데이터베이스에서 총 106,950개의 이미지 중 2,436개만 찾았습니다. 이 중 갈색 피부를 가진 사람은 10명에 불과했고 그 중 1명은 피부가 짙은 갈색 또는 검은색으로 기록되었습니다.
1,585개의 이미지에만 피부 유형에 대한 정보가 아닌 인종에 대한 데이터가 포함되어 있습니다. 팀 보고서 “아프리카, 아프리카 카리브해 또는 남아시아 배경을 가진 개인의 사진은 없었습니다.”
그들은 “데이터 세트의 지리적 기원 외에도 어두운 피부 인구의 피부 병변 이미지가 매우 적게 표현되었습니다.”라고 덧붙였습니다.
Wayne은 누락이 의도적일 가능성은 없지만 인종이나 피부 유형을 포함한 중요한 정보가 사진에 보고되도록 하려면 표준이 필요하다고 말했습니다. 저자는 AI 시스템을 개발하는 데 사용되는 데이터 세트가 해당 기술이 사용될 인구를 나타내야 한다고 덧붙였습니다.
던디 대학의 피부과 교수이자 이 연구에 참여하지 않은 영국 피부 재단의 대변인인 샬럿 브루비(Charlotte Bruby)는 이 발견이 우려스럽다고 말했습니다.
“경순은 통찰력 있고 사악한 사상가로, 다양한 음악 장르에 깊은 지식을 가지고 있습니다. 힙스터 문화와 자연스럽게 어우러지는 그의 스타일은 독특합니다. 그는 베이컨을 좋아하며, 인터넷 세계에서도 활발한 활동을 보여줍니다. 그의 내성적인 성격은 그의 글에서도 잘 드러납니다.”