미국 비영리단체인 AI안전센터(CAIS)에 따르면, 인공지능(AI) 업계 경영진과 과학자 300여 명이 AI 기술이 앞으로 인류에 실존적 위협이 될 수 있다고 경고했는데요 이들은 AI의 위험을 전염병이나 핵전쟁과 같은 사회적 위험으로 간주해야 한다고 주장하였습니다.
AI안전센터가 공개한 성명서에는 AI업계에서 종사하는 경영진, 연구원, 엔지니어 350여 명이 서명했는데 성명서에는 아이러니하게도 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)와 구글 딥마인드의 데이비드 하사비스 CEO도 포함되어 있습니다.
성명서는 "AI로 인한 인류 멸망 위험을 완화하는 것이 전염병이나 핵전쟁과 같은 다른 사회적 위험과 함께 전세계적으로 우선 순위가 되어야 한다"고 강조했는데요 이 성명서는 AI의 궁극적 위험에 대한 광범위한 우려를 표명하고 있습니다.
최첨단 챗봇이 현재는 제공받은 훈련 데이터를 기반으로 패턴을 재현하고 스스로 생각하지는 못한다는 점을 뉴욕타임스(NYT)가 보도했는데 그러나 AI로 인해 허위 정보 확산, 실업, 통제 불가능 등의 문제가 우려되고 있습니다.
전문가들은 의료 정보나 정서적 위안, 의사 결정 등에 인공지능을 활용하는 경우 큰 문제가 될 수 있으며, 인공지능이 사람처럼 대화하고 설득력이 있기 때문에 인공지능을 악용해 허위 정보를 퍼트려 사회적으로 큰 혼란이 올 수 있다고 경고하고 있습니다.
또한, 인공지능이 일자리를 대체할 우려도 제기되고 있는데요 챗GPT를 개발한 오픈AI사의 보고서에 따르면, 미국 노동자 업무의 80%가 최소한 10% 이상이 인공지능으로 대체될 수 있으며, 19%는 업무의 50%를 대체할 수 있다고 합니다. 또한, 인공지능이 자체적으로 컴퓨터 프로그램을 작성할 수 있게 되면 예상치 못한 힘을 갖게 될 우려도 있습니다.
이러한 이유로 AI 산업에 대한 투자가 증가하고 있으며, 초기에 규제를 마련해야 한다는 요구가 나오고 있는데요 CAIS의 책임자인 댄 헨드릭스는 트위터를 통해 캠브리지대 AI 교수인 데이비드 크루거가 성명서를 처음 제안한 것으로 알려졌습니다. 헨드릭스는 "사회는 여러 위험을 동시에 관리할 수 있다"라며 "현재의 해악을 독점적으로 우선시하는 것은 무모한 것처럼 보이므로 AI의 위험을 무시하는 것도 마찬가지로 무모하다"고 강조했습니다.
지난 3월에는 1,000명 이상의 기술자, 연구자, 유명인들이 AI 기술이 사회와 인류에 심각한 위협을 제기하는 서한에 서명한 뒤, 서명자는 이후로 20,000명을 넘어섰고 일론 머스크 등 일부 서명자들은 AI 연구소들이 6개월 동안 개발을 중단하고 인공지능 기술의 위험을 평가해야 한다고 촉구했습니다.
댓글