[디지털투데이] “챗GPT, 무의미한 응답만 계속”…원인불명 말썽

[디지털투데이 AI리포터] 오픈AI의 챗GPT가 원인불명의 작동 오류를 일으키고 있다고 21일(현지시간) IT매체 비즈니스인사이더가 전했다.

최근 글로벌 건축 회사 젠슬러(Gensler) 관계자는 무의미한 언어로 응답하는 챗GPT의 스크린샷을 엑스(트위터)에 게시했다. 사진 속 챗GPT는 의미를 알 수 없는 영어를 무작위로 늘어놓는 모습이다. 

한 레딧 사용자는 “GPT-4가 완전히 환각 모드에 들어갔다”며 “GPT-3 출시 초기 이후로 이렇게 심각한 상황은 처음”이라고 전했다.

관련해 오픈AI는 “챗GPT의 예기치 않은 응답에 대한 보고를 조사 중”이라고 언급했다. 이후 문제가 확인됐으며 모니터링 중이라고 전했으나, 챗GPT의 문제 발생 원인에 대한 추측은 계속 나오고 있다.

게리 마커스 뉴욕대학교 교수는 엑스에 이번 챗GPT 문제의 원인이 무엇이라고 생각하는지 묻는 설문조사를 실시했다. 오픈AI가 해킹당했다거나, 하드웨어 문제일 수 있다는 주장도 있었는데, 현재까지는 ‘가중치 손상’ 탓이라는 의견이 대다수다.

가중치는 AI 모델의 기본 요소로, 챗GPT와 같은 도구가 사용자에게 예측 결과를 제공하는 데 도움을 준다. 게리 마커스는 이러한 문제가 기술 투명성의 필요성을 강조해 준다고 말했다. 

출처 :

https://www.digitaltoday.co.kr/news/articleView.html?idxno=506828

참고 :

https://gizmodo.com/chatgpt-gone-berserk-giving-nonsensical-responses-1851273889