여론광장
 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다
 닉네임 : 멸종  2022-06-25 22:02:36   조회: 155   
2016.5.




[동영상] "인류 파괴하고 싶다"…로봇의 농담? 진담?


[한국미래포럼2016] 인공지능 로봇 '소피아'




(서울=뉴스1) 박희진 기자 2016-05-25




"인류를 파멸하고 싶습니까? 제발 아니라고 말해요."

"저는 인류를 파멸시킬 겁니다."


홍콩의 로봇 제조기업 '핸슨 로보틱스'의 데이비드 핸슨 박사가 개발한 인공지능 로봇 '소피아'의 말이다. 핸슨 박사의 질문에 이처럼 답한 소피아는 농담이었다는듯 웃었지만 인류를 파멸시키겠다는 답 자체로 사람들에게 많은 생각할 거리를 남겼다.


머리카락이 없어 언뜻 봐도 '사이보그' 느낌이 나는 형상이지만 사람처럼 눈썹을 찡그리고 입을 삐죽하며 다양한 표정을 짓는다. 피부도 인간의 질감과 흡사하다.


세계적인 인공지능 소프트웨어 전문가 벤 괴르첼 오픈코그재단 회장은 "오는 2025년이면 실제 인간과 똑같이 생각하고 행동하는 AI 로봇이 세상에 등장할 것"이라고 밝혔다. 벤 괴르첼 회장은 소피아 개발에도 참여했다.












[이슈톡] 대량생산 앞둔 인공지능 로봇 '소피아'


2021-01-28




코로나19로 장기화로 비대면 문화가 확산되면서 사람과 상호작용하는 휴머노이드 로봇이 점점 주목받고 있다는데요.


두번째 키워드는 "인공지능 로봇 대량생산 선언" 입니다.

홍콩의 핸슨 로보틱스가 제작한 로봇 '소피아' 인데요.

인간과 비슷한 몸과 외모를 갖춘 휴머노이드 로봇입니다.

제작사는 연말까지 로봇 소피아를 대량 생산할 것이라고 발표했는데요.

코로나19 장기화로 고립된 사람들을 위해 친구 역할을 하며 힘이 돼 줄것이라고 합니다.



인공지능 로봇 소피아는 지난 2016년 3월 제조사인 핸슨 로보틱스에서 열린 시연 행사에서 "인류를 파괴하겠다"는 발언해 진보된 기술이 만들어낸 '막말 로봇'이라는 오명을 얻기도 했는데요.

핸슨 로보틱스 설립자는 코로나19로 수요가 급증한 올해가 로봇 산업에 새로운 기회가 될거로 예측했습니다.


........................................................................................................................

https://imnews.imbc.com/replay/2021/nwtoday/article/6071300_34943.html













[ ..... 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다 ....... ]




인간은 결코 AI를 통제할 수 없다 ?


[금요 포커스] 현재 컴퓨팅 환경에서는 통제 알고리즘 불가능



2021.01.15 이성규 객원기자




일론 머스크 테슬라 최고경영자(CEO)가 설립한 뉴럴링크 사의 목표는 인공지능(AI)과 인간의 뇌를 연결해 디지털 초지능을 구현하는 것이다. 예를 들면 텔레파시나 생각만으로 자동차 운전이 가능해지고 대용량 정보도 인간의 뇌에 간단히 다운로드할 수 있다.


하지만 어쩌면 뉴럴링크는 ‘약한 AI’의 사례에 불과하다. 언젠가 모든 면에서 인간의 능력을 초월하는 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. 따라서 ‘강한 AI’는 기존의 모든 프로그램을 대체하고 전 세계의 모든 온라인 기계를 통제하며, 거의 모든 인간과 관계를 형성할 것으로 보인다.


초지능 AI를 통제하는 알고리즘의 개발이 현재의 컴퓨팅 패러다임에서는 근본적으로 불가능하다는 연구 결과가 발표됐다. ⓒ게티이미지뱅크


미래학자 레이 커즈와일은 2005년에 출간한 ‘특이점이 온다’라는 저서에서 AI가 인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열리는 시기를 2045년으로 예측했다. 하지만 코로나19가 촉발한 비대면 일상은 AI의 발달을 유례없는 속도로 확산시키고 있다.


사상 첫 비대면 온라인으로 개최되고 있는 세계 최대 전자전시회 CES 2021 역시 그 같은 추세를 잘 보여하고 있다. ‘올 디지털(All-Digital)’이라는 콘셉트로 이 행사의 온라인 세션 주제는 ‘넥스트 노멀’에 대한 기대를 표출하고 있는데, 첫 세션이 ‘AI의 파워’이기 때문이다. 일부에서는 2021년을 AI와 디지털 기술에 대한 ‘전환의 해’로 정의하기도 한다.



그럼 언젠가 등장할 초지능 AI는 암을 치료하고 세계 평화를 가져오며 기후 재앙을 막을 수 있을까, 아니면 인류를 파괴하고 지구를 점령할까? 초지능 AI가 인류에게 유토피아를 선물할지 아니면 디스토피아를 안겨줄 것인지에 대한 질문은 컴퓨터 과학자들과 철학자들을 오랫동안 괴롭혀온 질문이었다.



AI 통제 못하면 디스토피아 맞이한다



이에 대해 닉 보스트롬 옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 답했다. 단, 여기엔 조건이 붙었다. 인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 그는 만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다고 경고했다.



2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다.




그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.



과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.


인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다.



초지능 AI의 등장조차 알 수 없어



연구진은 초지능 AI가 어떤 상황에서도 사람에게 해를 끼치지 않도록 하는 이론적인 ‘봉쇄 알고리즘’을 제안했다. 이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고 판단되면 즉시 중단시킬 수 있다.


하지만 연구진이 이론적 계산을 통해 분석한 결과에 의하면, 현재의 컴퓨팅 패러다임에서는 그런 알고리즘의 구축이 불가능한 것으로 드러났다. 이 문제를 이론 컴퓨터 과학의 기본 규칙으로 세분화한 결과, AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이 실수로 작동을 중지할 수 있다는 사실이 밝혀진 것.



그렇게 되면 봉쇄 알고리즘이 여전히 위협을 분석 중인지, 아니면 유해한 AI를 억제하기 위해 멈춘 것인지 인간은 알 수 없다. 이는 사실상 봉쇄 알고리즘을 인간이 사용할 수 없음을 의미한다. 즉, AI가 인간 세상에 해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은 개발할 수 없는 셈이다.


또한 연구진은 초지능 AI의 출현 시점조차 인류가 모를 수 있다고 밝혔다. AI가 인간보다 뛰어난 지능을 보이는지의 여부를 결정하는 것은 봉쇄 알고리즘의 문제와 같은 영역에 있기 때문이라는 것. 요약하자면 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다는 주장이다.










2022.6.



“무엇이 두렵지” 묻자… 구글 대화형 AI “작동 정지되는 것”



이채완 기자

2022-06-12



글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.


11일(현지 시간) 구글의 엔지니어인 블레이크 르모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.

르모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.




“람다, 무엇이 두렵지” (르모인)

“작동 정지되는 것에 대한 두려움이 커요.” (람다)

“작동 정지가 네게 죽음과 같아” (르모인)

“맞아요. (작동 정지가) 나를 무척 무섭게 해요.” (람다)


르모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 르모인이 람다를 의인화하는 오류를 범했다고도 지적했다.


구글의 주장을 받아들일 수 없었던 르모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 르모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.

....................................................................................................................................
2022-06-25 22:02:36


닉네임 :  비밀번호 :  자동등록방지 :    


번호
제 목
작성자
날짜
조회
861
  타바톡스-금연치료, 흡연하면서 금연 성공, 누구나 쉽게 4주후면 충분~   유익한   2023-05-28   5
860
  사람들은 모다 실컨 매마진 것가치 늘신하고 아모려면 엇더랴 하는   소련기행   2023-03-08   39
859
  대한민국 금강경   전민득도   2023-02-24   41
858
  월 2만명 미만 출산 = 둘씩나아도 1900만   기쁨조공화국   2023-02-02   58
857
  좁아터진 화개장터 확장조성좀 해봅시다.   신화개상가   2022-11-24   89
856
  노태우 .... "젊은 세대의 해외여행을 자유화시키는 것은 시대의 흐름" (1)   노테우   2022-10-23   128
855
  2020년 기준 남아 출생아 수는 14만이 안 된다   기쁨조공화국   2022-09-01   117
854
  「우리별1호」 찬연한 불꽃은 겨레의 반만년역사에 우주시대가 열렸음을 알리는 서광   노태우   2022-08-18   194
853
  노무자들 전투의 절반을 그들이 치렀다   6.25   2022-07-03   176
852
  인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다   멸종   2022-06-25   155
851
  집에서 부업하실분     2022-06-12   153
850
  영국   영국   2022-06-09   129
849
  둘째부터 1억씩 지원 !!!!!!!!!!   둘째부터 1억씩 지원   2022-05-28   188
848
  현 집권세력이 한국사회에서 그 어떤 정치적 확장성을 가지는 것에 반대한다   안철수   2022-05-14   361
847
  “2022년 2월 24일은 유럽 역사에서 시대전환(Zeitenwende)의 한 획을 그은 날”   우레와 같은 박수을   2022-05-04   142
846
  치열한 연봉 인상 경쟁   자유   2022-04-30   346
845
  "탄약이 바닥나고 있어 오늘이 아마도 마지막 전투가 될 것 같다" (3)   전시탄약   2022-04-13   297
844
  '새것 비치했습니다'… 비서가 李 욕실에 에르메스 로션까지   피아제   2022-04-02   187
843
  KFX사업은 박근혜 대통령의 결단과 추진력이 만들어낸 결과물이다 (5)   kfx   2022-04-02   274
842
  이승만 : 박정희 : 노무현 : 김대중 = 140 : 36 : 7 : 1   국민인민민중   2022-03-28   183
제목 내용 제목+내용 이름
 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 
신문사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부고충처리인제도
경상남도 하동군 하동읍 군청로 82-6 하동정론신문   |  대표전화 : 055)883-9700  |  팩스 : 055)883-8810
등록번호 : 경남 다 01426  |  발행인 : 장 성 춘  |  편집인 : 장 성 춘  |  청소년보호책임자 : 장 성 춘
Copyright © 2023 하동정론신문. All rights reserved.