"AI가 인간을 쓸모없게 만들 수 있다는데"… 챗GPT의 생각은 [글로벌 IT슈]
페이지 정보
작성일 25-02-12 12:01 조회 471 댓글 1본문
노동자 391명 조사 "지나친 의존은 비판적 사고 능력 저하"
MS-카네기멜론대학 연구 결과, 오는 4월 CHI학회서 발표
관련 연구에 대한 챗GPT 의견 "능동적 자세로 AI 활용해야"
/사진=게티이미지뱅크
[파이낸셜뉴스] 편리하면서도 강력한 작업 도구인 인공지능(AI)을 비판적 사고 없이 무턱대고 사용할 경우 인간의 역량이 약화될 수 있다는 연구 결과가 나왔다.
마이크로소프트(MS)와 카네기멜론대학이 공동 연구한 '비판적 사고에 대한 생성형 AI의 영향 : 지식 노동자 설문 조사에서 보고된 인지 노력 및 자신감 효과 감소'라는 긴 제목의 보고서가 내린 결론이다. 해당 보고서는 오는 4월 26일부터 5월 1일까지 일본 요코하마에서 열리는 세계적인 컴퓨터공학 학회 'ACM CHI'에서 발표된다.
기즈모도 등 미국 현지 IT전문매체는 10일(현지시간) 이 보고서가 "인간이 업무 중 생성형 AI에 의존하는 빈도가 높아질수록 비판적 사고를 덜 사용하게 됐다. 이는 인간의 인지적 능력 저하로 이어질 수 있다"는 우려를 내놨다고 보도했다.
이번 연구는 데이터나 정보 처리 업무를 하는 319명의 전문직 노동자를 대상으로 진행됐다. 조사에 참여한 사람들이 자신의 업무에서 생성형 AI를 사용한 936개 사례를 중심으로 질문을 주고 답을 받았다.
우선 작업에 사용한 AI 프로그램과 방법, AI 도구의 작업 수행 능력에 대한 신뢰 여부, AI의 도움 없이 자신의 능력만으로 동일한 작업을 완료할 수 있는지 등에 답변을 요청했다.
조사에 참여한 사람들이 업무에 활용한 사례 중에는 챗GPT로 '신규 진단된 당뇨병 환자를 위한 교육 자료'를 검증한 간호사, AI 이미지 생성기인 달리(DALL-E)를 이용해 '학생들에게 손 씻기 필요성을 설명하기 위한 시청각 자료'를 만든 교사 등이 있었다.
보고서를 보면 AI가 작업을 수행할 능력이 있다고 확신하는 사람일수록 스스로 작업을 수행하는 빈도는 줄인 것으로 조사됐다. 특히 중요도가 낮은 업무일 수록 AI의 작업 결과를 비판적으로 검토하지 않고 그대로 수용하는 경우가 많았다.
보고서는 "이 같은 과정이 장기화되면 스스로 문제를 해결하는 능력이 저하될 수 있다"고 봤다.
반대로 AI가 내놓는 답변에 확신이 적은 사용자는 비판적 사고를 사용해 AI가 출력한 품질을 평가하는가 하면 개선의 과정을 통해 더 나은 결과를 내놓는 데 노력했다. 이를 통해 인간이 독립적인 문제 해결 능력을 유지하는 데 긍정적인 영향을 미친다고 보고서는 해석했다.
특히 보고서가 주목한 부분은 업무에 AI를 사용했을 때와 사용하지 않았을 때 동일 작업에서 내놓은 결과였다.
보고서는 "AI 도구를 사용한 사람들은 그렇지 않은 사람들보다 동일한 작업에 대해 내놓은 결과가 다양하지 못했다. AI가 제공하는 답변을 무비판적으로 수용한 데 따른 것"이라며 "비판적 사고를 활용할 기회가 줄어들면 장기적으로 문제해결 능력이 약화될 가능성을 보여준 결과"고 분석했다.
다만 조사 결과를 토대로 AI를 무조건 배제해야 하느냐는 질문에는 부정적 입장을 전했다.
보고서는 "AI 도구는 추론에 대한 설명을 제공하고 사용자가 개선해야 할 부분을 제안하는 등 사용자 학습을 용이하게 하는 기능을 제공했다"며 "이런 기능을 제대로 사용한다면 비판적 사고와 기술을 향상시키는 데 도움을 줄 수 있을 뿐 아니라 업무 파트너가 될 수 있다"고 했다.
연구 결과에 대해 대표적인 생성형 AI인 챗GPT에 의견을 물었다.
챗GPT는 "해당 연구는 AI 도구를 사용할 때 신중한 접근이 필요하다는 점을 시사한다"며 "AI는 생산성과 효율성을 높일 수 있는 강력한 도구지만, 인간이 비판적 사고 없이 맹목적으로 의존하면 오히려 역량이 저하될 수 있다"고 평가했다.
그러면서 AI의 장점을 살리면서 활용할 수 있는 방법을 제안했다.
챗GPT는 "AI가 제공한 답변을 그대로 수용하지 말고 항상 '이것이 최선의 해결책인가'를 고민할 필요가 있고, 단순 반복 작업은 AI를 활용하더라도 전략적 의사결정이 필요한 작업은 직접 사고하는 습관을 유지하는 게 좋다"고 했다. 또 "AI가 제공하는 정보 외에도 다양한 출처를 참고해 비판적 사고를 활성화하 창의적 접근을 유지하라"고 권했다.
AI를 사용하는 인간에게 경고를 담은 조언도 잊지 않았다.
챗GPT는 "AI를 효과적으로 사용하는 사람과 무비판적으로 사용하는 사람의 격차는 점점 더 커질 것"이라며 "AI가 제공하는 정보를 능동적으로 검토하고 수정하는 태도를 유지하는 게 중요하다"고 했다.
#MS #AI #업무 #챗GPT #비판적 사고
MS-카네기멜론대학 연구 결과, 오는 4월 CHI학회서 발표
관련 연구에 대한 챗GPT 의견 "능동적 자세로 AI 활용해야"
[파이낸셜뉴스] 편리하면서도 강력한 작업 도구인 인공지능(AI)을 비판적 사고 없이 무턱대고 사용할 경우 인간의 역량이 약화될 수 있다는 연구 결과가 나왔다.
마이크로소프트(MS)와 카네기멜론대학이 공동 연구한 '비판적 사고에 대한 생성형 AI의 영향 : 지식 노동자 설문 조사에서 보고된 인지 노력 및 자신감 효과 감소'라는 긴 제목의 보고서가 내린 결론이다. 해당 보고서는 오는 4월 26일부터 5월 1일까지 일본 요코하마에서 열리는 세계적인 컴퓨터공학 학회 'ACM CHI'에서 발표된다.
기즈모도 등 미국 현지 IT전문매체는 10일(현지시간) 이 보고서가 "인간이 업무 중 생성형 AI에 의존하는 빈도가 높아질수록 비판적 사고를 덜 사용하게 됐다. 이는 인간의 인지적 능력 저하로 이어질 수 있다"는 우려를 내놨다고 보도했다.
AI를 사용했을 때와 사용하지 않았을 때
이번 연구는 데이터나 정보 처리 업무를 하는 319명의 전문직 노동자를 대상으로 진행됐다. 조사에 참여한 사람들이 자신의 업무에서 생성형 AI를 사용한 936개 사례를 중심으로 질문을 주고 답을 받았다.
우선 작업에 사용한 AI 프로그램과 방법, AI 도구의 작업 수행 능력에 대한 신뢰 여부, AI의 도움 없이 자신의 능력만으로 동일한 작업을 완료할 수 있는지 등에 답변을 요청했다.
조사에 참여한 사람들이 업무에 활용한 사례 중에는 챗GPT로 '신규 진단된 당뇨병 환자를 위한 교육 자료'를 검증한 간호사, AI 이미지 생성기인 달리(DALL-E)를 이용해 '학생들에게 손 씻기 필요성을 설명하기 위한 시청각 자료'를 만든 교사 등이 있었다.
보고서를 보면 AI가 작업을 수행할 능력이 있다고 확신하는 사람일수록 스스로 작업을 수행하는 빈도는 줄인 것으로 조사됐다. 특히 중요도가 낮은 업무일 수록 AI의 작업 결과를 비판적으로 검토하지 않고 그대로 수용하는 경우가 많았다.
보고서는 "이 같은 과정이 장기화되면 스스로 문제를 해결하는 능력이 저하될 수 있다"고 봤다.
반대로 AI가 내놓는 답변에 확신이 적은 사용자는 비판적 사고를 사용해 AI가 출력한 품질을 평가하는가 하면 개선의 과정을 통해 더 나은 결과를 내놓는 데 노력했다. 이를 통해 인간이 독립적인 문제 해결 능력을 유지하는 데 긍정적인 영향을 미친다고 보고서는 해석했다.
특히 보고서가 주목한 부분은 업무에 AI를 사용했을 때와 사용하지 않았을 때 동일 작업에서 내놓은 결과였다.
보고서는 "AI 도구를 사용한 사람들은 그렇지 않은 사람들보다 동일한 작업에 대해 내놓은 결과가 다양하지 못했다. AI가 제공하는 답변을 무비판적으로 수용한 데 따른 것"이라며 "비판적 사고를 활용할 기회가 줄어들면 장기적으로 문제해결 능력이 약화될 가능성을 보여준 결과"고 분석했다.
다만 조사 결과를 토대로 AI를 무조건 배제해야 하느냐는 질문에는 부정적 입장을 전했다.
보고서는 "AI 도구는 추론에 대한 설명을 제공하고 사용자가 개선해야 할 부분을 제안하는 등 사용자 학습을 용이하게 하는 기능을 제공했다"며 "이런 기능을 제대로 사용한다면 비판적 사고와 기술을 향상시키는 데 도움을 줄 수 있을 뿐 아니라 업무 파트너가 될 수 있다"고 했다.
챗GPT "내 생각엔…"
연구 결과에 대해 대표적인 생성형 AI인 챗GPT에 의견을 물었다.
챗GPT는 "해당 연구는 AI 도구를 사용할 때 신중한 접근이 필요하다는 점을 시사한다"며 "AI는 생산성과 효율성을 높일 수 있는 강력한 도구지만, 인간이 비판적 사고 없이 맹목적으로 의존하면 오히려 역량이 저하될 수 있다"고 평가했다.
그러면서 AI의 장점을 살리면서 활용할 수 있는 방법을 제안했다.
챗GPT는 "AI가 제공한 답변을 그대로 수용하지 말고 항상 '이것이 최선의 해결책인가'를 고민할 필요가 있고, 단순 반복 작업은 AI를 활용하더라도 전략적 의사결정이 필요한 작업은 직접 사고하는 습관을 유지하는 게 좋다"고 했다. 또 "AI가 제공하는 정보 외에도 다양한 출처를 참고해 비판적 사고를 활성화하 창의적 접근을 유지하라"고 권했다.
AI를 사용하는 인간에게 경고를 담은 조언도 잊지 않았다.
챗GPT는 "AI를 효과적으로 사용하는 사람과 무비판적으로 사용하는 사람의 격차는 점점 더 커질 것"이라며 "AI가 제공하는 정보를 능동적으로 검토하고 수정하는 태도를 유지하는 게 중요하다"고 했다.
#MS #AI #업무 #챗GPT #비판적 사고
AI가 인간을 지배할지도 ㅜ