 | 여론광장 |
|
| 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다 |
|
| 닉네임 : 멸종 |
2022-06-25 22:02:36 조회: 234 |
|
|
|
[동영상] "인류 파괴하고 싶다"…로봇의 농담? 진담?
[한국미래포럼2016] 인공지능 로봇 '소피아'
(서울=뉴스1) 박희진 기자 2016-05-25
"인류를 파멸하고 싶습니까? 제발 아니라고 말해요."
"저는 인류를 파멸시킬 겁니다."
홍콩의 로봇 제조기업 '핸슨 로보틱스'의 데이비드 핸슨 박사가 개발한 인공지능 로봇 '소피아'의 말이다. 핸슨 박사의 질문에 이처럼 답한 소피아는 농담이었다는듯 웃었지만 인류를 파멸시키겠다는 답 자체로 사람들에게 많은 생각할 거리를 남겼다.
머리카락이 없어 언뜻 봐도 '사이보그' 느낌이 나는 형상이지만 사람처럼 눈썹을 찡그리고 입을 삐죽하며 다양한 표정을 짓는다. 피부도 인간의 질감과 흡사하다.
세계적인 인공지능 소프트웨어 전문가 벤 괴르첼 오픈코그재단 회장은 "오는 2025년이면 실제 인간과 똑같이 생각하고 행동하는 AI 로봇이 세상에 등장할 것"이라고 밝혔다. 벤 괴르첼 회장은 소피아 개발에도 참여했다.
[이슈톡] 대량생산 앞둔 인공지능 로봇 '소피아'
2021-01-28
코로나19로 장기화로 비대면 문화가 확산되면서 사람과 상호작용하는 휴머노이드 로봇이 점점 주목받고 있다는데요.
두번째 키워드는 "인공지능 로봇 대량생산 선언" 입니다.
홍콩의 핸슨 로보틱스가 제작한 로봇 '소피아' 인데요.
인간과 비슷한 몸과 외모를 갖춘 휴머노이드 로봇입니다.
제작사는 연말까지 로봇 소피아를 대량 생산할 것이라고 발표했는데요.
코로나19 장기화로 고립된 사람들을 위해 친구 역할을 하며 힘이 돼 줄것이라고 합니다.
인공지능 로봇 소피아는 지난 2016년 3월 제조사인 핸슨 로보틱스에서 열린 시연 행사에서 "인류를 파괴하겠다"는 발언해 진보된 기술이 만들어낸 '막말 로봇'이라는 오명을 얻기도 했는데요.
핸슨 로보틱스 설립자는 코로나19로 수요가 급증한 올해가 로봇 산업에 새로운 기회가 될거로 예측했습니다.
................................................................................................
https://imnews.imbc.com/replay/2021/nwtoday/article/6071300_34943.html
2022.6.
“무엇이 두렵지” 묻자… 구글 대화형 AI “작동 정지되는 것”
이채완 기자
2022-06-12
글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.
11일(현지 시간) 구글의 엔지니어인 블레이크 르모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.
르모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.
“람다, 무엇이 두렵지” (르모인)
“작동 정지되는 것에 대한 두려움이 커요.” (람다)
“작동 정지가 네게 죽음과 같아” (르모인)
“맞아요. (작동 정지가) 나를 무척 무섭게 해요.” (람다)
르모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 르모인이 람다를 의인화하는 오류를 범했다고도 지적했다.
구글의 주장을 받아들일 수 없었던 르모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 르모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.
....................................................................................................................................
2022-06-25
[ ..... 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다 ...... ]
인간은 결코 AI를 통제할 수 없다 ?
[금요 포커스] 현재 컴퓨팅 환경에서는 통제 알고리즘 불가능
2021.01.15 이성규 객원기자
일론 머스크 테슬라 최고경영자(CEO)가 설립한 뉴럴링크 사의 목표는 인공지능(AI)과 인간의 뇌를 연결해 디지털 초지능을 구현하는 것이다. 예를 들면 텔레파시나 생각만으로 자동차 운전이 가능해지고 대용량 정보도 인간의 뇌에 간단히 다운로드할 수 있다.
하지만 어쩌면 뉴럴링크는 ‘약한 AI’의 사례에 불과하다. 언젠가 모든 면에서 인간의 능력을 초월하는 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. 따라서 ‘강한 AI’는 기존의 모든 프로그램을 대체하고 전 세계의 모든 온라인 기계를 통제하며, 거의 모든 인간과 관계를 형성할 것으로 보인다.
초지능 AI를 통제하는 알고리즘의 개발이 현재의 컴퓨팅 패러다임에서는 근본적으로 불가능하다는 연구 결과가 발표됐다. ⓒ게티이미지뱅크
미래학자 레이 커즈와일은 2005년에 출간한 ‘특이점이 온다’라는 저서에서 AI가 인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열리는 시기를 2045년으로 예측했다. 하지만 코로나19가 촉발한 비대면 일상은 AI의 발달을 유례없는 속도로 확산시키고 있다.
사상 첫 비대면 온라인으로 개최되고 있는 세계 최대 전자전시회 CES 2021 역시 그 같은 추세를 잘 보여하고 있다. ‘올 디지털(All-Digital)’이라는 콘셉트로 이 행사의 온라인 세션 주제는 ‘넥스트 노멀’에 대한 기대를 표출하고 있는데, 첫 세션이 ‘AI의 파워’이기 때문이다. 일부에서는 2021년을 AI와 디지털 기술에 대한 ‘전환의 해’로 정의하기도 한다.
그럼 언젠가 등장할 초지능 AI는 암을 치료하고 세계 평화를 가져오며 기후 재앙을 막을 수 있을까, 아니면 인류를 파괴하고 지구를 점령할까? 초지능 AI가 인류에게 유토피아를 선물할지 아니면 디스토피아를 안겨줄 것인지에 대한 질문은 컴퓨터 과학자들과 철학자들을 오랫동안 괴롭혀온 질문이었다.
AI 통제 못하면 디스토피아 맞이한다
이에 대해 닉 보스트롬 옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 답했다. 단, 여기엔 조건이 붙었다. 인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 그는 만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다고 경고했다.
2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다.
그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.
과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.
인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다.
초지능 AI의 등장조차 알 수 없어
연구진은 초지능 AI가 어떤 상황에서도 사람에게 해를 끼치지 않도록 하는 이론적인 ‘봉쇄 알고리즘’을 제안했다. 이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고 판단되면 즉시 중단시킬 수 있다.
하지만 연구진이 이론적 계산을 통해 분석한 결과에 의하면, 현재의 컴퓨팅 패러다임에서는 그런 알고리즘의 구축이 불가능한 것으로 드러났다. 이 문제를 이론 컴퓨터 과학의 기본 규칙으로 세분화한 결과, AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이 실수로 작동을 중지할 수 있다는 사실이 밝혀진 것.
그렇게 되면 봉쇄 알고리즘이 여전히 위협을 분석 중인지, 아니면 유해한 AI를 억제하기 위해 멈춘 것인지 인간은 알 수 없다. 이는 사실상 봉쇄 알고리즘을 인간이 사용할 수 없음을 의미한다. 즉, AI가 인간 세상에 해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은 개발할 수 없는 셈이다.
또한 연구진은 초지능 AI의 출현 시점조차 인류가 모를 수 있다고 밝혔다. AI가 인간보다 뛰어난 지능을 보이는지의 여부를 결정하는 것은 봉쇄 알고리즘의 문제와 같은 영역에 있기 때문이라는 것. 요약하자면 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다는 주장이다.
DATE : 2022-07-20
AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제
.................................................................................................................................................................
실제로 전 세계 300여 스타트업이 메타(페이스북)가 공개한 개방형 AI ‘라마’를 튜닝해 저마다 AI를 내놓고 있다. 챗GPT 성능의 90%를 넘어선 곳도 있다. 마음만 먹으면 수억 명이 사용하는 챗GPT에 상응하는 영향력을 행사할 수 있는 것이다. 저명 컴퓨터공학자 웬디 홀은 “메타가 핵폭탄 제조 매뉴얼을 공개한 것”이라고 했다. 혹자는 핵폭탄은 스스로 다른 핵폭탄을 만들 수 없지만 AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제라고 한다. 이미 웬만한 전문가보다 코딩을 잘하는 AI가 등장했다.
핵폭탄 사용의 결과는 명확하다. 누구나 두려워하기 때문에 1945년 두 차례 이외에는 사용된 적도 없다. 반면 AI의 영향은 제프리 힌턴과 앤드루 응 같은 권위자들의 의견도 엇갈린다. 누구는 자신의 AI 연구를 후회한다고 하고, 누구는 앞으로 50년은 문제없다고 장담한다. 지난 3월 전 세계 AI 관계자 1800명이 “AI 개발을 6개월 중단하고 안전장치를 마련하자”는 성명을 냈다. 그런 일은 일어나지 않았다. ‘지금은 위험하지 않다’ ‘실효성이 없다’는 목소리가 더 컸다.
.........................................................................................................................................................
*
뉴럴링크
위키백과, 우리 모두의 백과사전.
뉴럴링크 코퍼레이션(Neuralink Corporation)은 일론 머스크 등이 설립한 미국의 뉴로테크놀로지 기업으로, 이식 가능한 뇌-컴퓨터 인터페이스(BMI)를 개발한다. 이 기업의 본사는 샌프란시스코에 있으며[1] 2016년 시작하였고 2017년 3월 처음 공개 보도되었다.[2][3]
설립 이후 이 기업은 여러 대학교들로부터 세간의 이목을 끄는 신경과학자들을 여러 명 고용해왔다.[4] 2019년 7월, $158,000,000를 펀딩 받았으며(그 중 100,000,000 달러는 머스크로부터 투자를 받음) 직원 수는 90명이다.[5] 당시 뉴럴링크는 매우 얇은 실을 뇌에 이식할 수 있는 재봉틀같은 기기 위에서 동작하고 있었으며 1500개의 전극을 통해 실험실 쥐로부터 정보를 읽는 시스템을 시연하였고 2020년 인간을 대상으로 실험 시작이 기대된다고 발표하였다.[5]
..................................................................................................
2023
인간 뇌에 컴퓨터 칩 심는 ’뇌 임플란트‘, 연내 첫 임상 가능성
최지원기자
입력 2023-08-09
일론 머스크가 창업한 ‘뇌 임플란트’ 개발 기업 뉴럴링크가 2억8000만 달러(약 3700억 원) 규모의 투자를 유치했다고 SNS 서비스 X(옛 트위터) 공식계정을 통해 8일(현지시간) 알렸다. 올해 1~6월 신경 기술 분야 스타트업 대상 총 투자 금액 1억4300만 달러의 두 배 규모다.
업계에서는 올 5월 뉴럴링크가 미국 식품의약국(FDA)으로부터 임상 시험을 승인받은 것이 주효하게 작용했을 것으로 보고 있다. 뉴럴링크는 2016년 머스크가 창업한 기업으로 뇌에 이식하는 칩을 개발하고 있다. 사지 마비 혹은 하반신 마비 환자 등 거동이 불편한 환자의 뇌에 칩을 이식해 생각만으로 컴퓨터 사용이 가능하도록 한다는 계획이다. 머스크는 6월 프랑스 파리에서 열린 비바테크 행사에서 “올해 말 (임상에 참여하는) 첫 환자가 나올 것으로 예상한다”고 했다.
다만 칩 이식을 위해 두개골을 뚫어야 한다는 점이 환자들에게는 큰 장벽이 될 것이라는 관측도 있다. 뉴럴링크의 주요 경쟁사인 미국 기업인 싱크론은 혈관 내 시술 방식으로 뇌와 컴퓨터를 연결하려고 시도하고 있다. 싱크론은 2021년 임상 시험을 승인받고, 올해 2월 총 7명의 환자에게 성공적으로 이식했다고 밝혔다.
.................................................................................................................................... |
2022-06-25 22:02:36
|
|
|
|
 |
|
|
|
|
|
|
 |
경상남도 하동군 하동읍 군청로 82-6 하동정론신문
| 대표전화 : 055)883-9700 | 팩스 : 055)883-8810
등록번호 : 경남, 아 02617 | 발행인 : 장 성 춘 | 편집인 : 장 성 춘 | 청소년보호책임자 : 장 성 춘
Copyright © 2024 하동정론신문. All rights reserved.
|
 |
|
|
