AI가 문제, 오류가 생길 경우

정확하게 어떤게 원인인지 알 수가 없다

AI 작동 방식이 다량의 데이터를 넣고

그걸 학습해서 결과물을 내놓는다 까지는 이해했는데

 

만약 잘못된 정보, 가짜, 환각 문제를 일으키는 원인이 왜 발생하는지는 모름

가설만 몇개 있을 뿐

명확한 원인을 밝혀내지 못한 상태라

점점 AI가 중요한 선택을 하게 되는 현 시점에서 

만약 오류가 발생 할 경우

왜 발생했는지 정확히 모르니

책임을 묻기도 어렵고 재발방지 조차 어려운게 문제