케이세이프

김해테크노밸리제일풍경채 “내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’

페이지 정보

작성자 또또링3
댓글 0건 조회 2회 작성일 26-09-09 21:36

본문

김해테크노밸리제일풍경채 미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났다.
월스트리트저널(WSJ)은 8일(현지시간) 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)이 AI 시스템 개발 경쟁을 벌이는 업계에 대해 이 같은 우려를 제기했다고 보도했다. 영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했다.
콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다.
콕슨은 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”며 “기업 간 경쟁은 물론 중국 신생 기업들과의 경쟁까지 치열해지는 상황에서는 안전을 위한 조치가 타협될 수밖에 없다”고 밝혔다.
콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했다. 그는 AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, 결국 정부의 개입이나 AI 업계 차원의 개발 속도 저하 없이는 인간을 능가해 다양한 작업을 수행하는 범용인공지능(GAI)를 책임감 있게 개발할 기업은 없다고 판단했다.
콕슨은 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해서도 “일종의 광기”라고 지적했다.
앞서 콕슨은 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 AI 업계 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다.
소득 증빙 절차 없이 생계가 어려운 사람에게 먹거리와 생필품을 지원하는 ‘그냥드림’ 사업이 이달 중 전국 모든 시군구로 확대된다.
보건복지부는 현재 ‘그냥드림’ 사업에 참여하지 않는 55개 시군구가 이달 중 순차적으로 사업장을 설치해 운영을 시작한다고 6일 밝혔다. 그냥드림은 지난해 12월 전국 57곳에서 시범 운영을 시작해 현재 175개 시군구로 확대됐다.
그냥드림은 생계가 어려운 사람이 소득·재산 등을 증명하는 서류를 제출하지 않아도 2만원 상당의 먹거리와 생필품을 우선 지원받을 수 있도록 한 사업이다. 첫 이용 때는 개인정보 수집에 동의하고 자가 체크리스트를 작성하면 물품을 받을 수 있다. 두 번째 이용부터는 현장 인력과 기본 상담을 하고, 필요한 경우 읍면동 찾아가는 보건복지팀이나 다른 복지자원으로 연결된다. 세 번째 이용 때는 추가 상담을 거쳐 지속적인 지원이 필요하다고 인정되면 물품을 계속 지원받을 수 있다.
복지부에 따르면 지금까지 약 21만명이 그냥드림 사업장을 찾았다. 이 가운데 4만4712명이 복지 상담을 받았고, 2만2367명이 읍면동 찾아가는 보건복지팀에 연계 의뢰됐다. 기초생활보장이나 긴급복지지원 등 실제 복지서비스를 받게 된 사람은 4437명이었다.
복지부가 소개한 사례를 보면 30대 청년 A씨는 그냥드림 사업장에서 먹거리를 받아 간 지 얼마 지나지 않아 다시 사업장을 찾았다. A씨는 생계에 어려움을 겪고 있었지만 서류상 아버지와 함께 사는 것으로 돼 있어 필요한 지원을 받지 못하고 있었다. 현장 종사자는 A씨에게 먹거리를 지원한 뒤 복지 상담을 받을 수 있도록 했다. 이후 지자체가 기초생활수급 신청을 돕고 정신건강복지센터와 푸드마켓 등에 연계하면서 A씨는 복지급여를 받을 수 있게 됐다.
이처럼 그냥드림을 통해 위기가구를 기존 복지제도로 연결하는 비율도 높아지고 있다. 복지 상담을 받은 이용자 가운데 읍면동 찾아가는 보건복지팀에 연계 의뢰된 비율은 시범사업 기간 46.4%에서 본사업 기간 54.8%로 상승했다. 연계 의뢰된 사람 가운데 실제 복지서비스를 받게 된 비율도 같은 기간 15.2%에서 25.1%로 높아졌다.
복지부는 사업장을 직접 방문하기 어려운 취약계층을 위한 ‘찾아가는 그냥드림’도 확대한다. 전남 신안군에서는 찾아가는 보건복지팀이 ‘그냥드림카’를 타고 섬과 외진 마을을 찾아 물품을 전달하고 현장에서 복지 상담을 한다. 경기 부천시는 우체국과 협력해 집배원이 신청자의 집으로 물품을 배달하고 위기 징후가 발견되면 지자체에 연계하는 ‘집으로 그냥드림’을 운영한다.

댓글목록

등록된 댓글이 없습니다.

공지사항

페이지 정보

본문

댓글목록