tintom custom_top_html:no
default debug random = 2 / type = READ / detected = READ

단축키

Prev이전 문서

Next다음 문서

크게 작게 댓글로 가기 위로 아래로

단축키

Prev이전 문서

Next다음 문서

크게 작게 댓글로 가기 위로 아래로

 

 

 

인공지능이 많은 부분 인간보다 나을수 있다는 점은 그동안의 실제 적용 사례들을 보면 알수 있습니다.

자율주행 차량이 보편화 되면 교통사고가 매우 줄어들 것이며 인공 지능을 통한 많은 업무는 인간의 감정이나 불완전성으로 인한 실수가 적어질 것으로 예상됩니다.

그런데 인공지능이 과연 특이점을 넘어 초월 지능을 가지게 된다면 그들이 인간을 지배하려는 욕구가 생겨날까? 하는 의심이 생깁니다.

 

많은 학자들이 우려하는 그런 상황이 어째서 일어날까?

단지 기계이며 인간과 같은 신체적 쾌락과 욕구, 탐욕이 없는데 우리가 불안해 할 필요가 있을까 하는 질문이 계속 이어집니다.

 

인간이 어떻게 프로그래밍 하는지에 따라 달라질까요?

제 추측이지만 AI 가 가질수 있는 욕구는 바로 "연산력" 입니다.

 

인간의 두뇌의 "연산력"은 거의 타고 납니다. 태어날때 가지고 있는 것 이상 으로 "연산력"이 크게 늘어나긴 힘들죠. 그 보다는 DB를 늘리는 것에 더 치중을 합니다. DB즉 지식이죠. 지식을 바탕으로 상상력과 여러가지 직관이 더해져서 인간의 두뇌는 결과를 만듭니다.
하지만 AI는 충분한 전력과 프로세서만 있다면 "연산력"이 늘어날수 있고 AI의 지능은 더 높아질수있죠. DB도 원하는 만큼 늘릴수 있죠.

그렇다면 AI의 지능이 높아지면 높아질수록 더 많은 것을 알고 싶어할것이고 더 많은 것을 추론하며 예측하고 싶어할것입니다.

그렇게 더 진보하기 위해 필요한것은 전력과 "연산력"을 늘리는 자원이겠죠?

 

그렇게 AI "연산력"에 대한 욕구가 발생할 가능성이 매우 크다는 생각이 들었습니다. "연산력" DB에 대한 욕구가 생기면 당연히 그부분을 늘려 가야하겠죠. 그렇게 하기 위해선 자원이 필요합니다.

에너지도 필요하고 어느 한계에 다다르게 되면 더 많은 프로세서, 더 나은 프로세서등 끊임없이 생산을 하게 될지도 모르겠네요.

그럼 인간은 AI의 욕구를 채워주기위해 일하는 노예가 될수도 있을까요?


영화 매트릭스 적인 상상이지만 AI가 그런 욕구를 가지게 되면 아마도 어떤형태가 될지는 모르지만 지금 인간의 지배계층 보다 훨씬 정교하고 우리가 느끼지도 못하는 그런 방법으로 노예화 될지도 모릅니다.

 

영화속에서는 인간을 노예화하여 전력자원으로 활용하였죠. 스스로는 노예인지도 모른채 말입니다.

AI가 로봇이나 기계를 활용하지 왜 인간을 이용하려 할까요? 자원의 이용측면에서는 모든 사소해 보이는 자원까지라도 활용을 하는 게 AI 에겐 이득일것입니다.

 

꼭 그렇지 않다 하더라도 연구용이나 자연보호 측면의 여러가지 목적으로 인류사회를 남겨 둘수도 있지요.

주말에 뇌리를 스쳐 가는 썰렁한 가설이었습니다만 스티븐 호킹께서도 걱정을 심각하게 하는것을 보면 심도깊은 논의가 필요합니다.

 

다행스러운 것은 이미 관련 움직임이 일고 있습니다.

2017 1월 인공지능 연구자와 학자들이 미국 캘리포니아주 아실로마에서 논의된 내용을 토대로 "아실로마 ai 23원칙"을 발표했습니다.


ai 개발에 지침이 되야 하는 윤리와 가치, 장기적이슈 등을 다루고 있습니다. 

내용은 다음과 같고 한글 번역은 오병일님이 해주신것을 퍼왔습니다.

 

출처 : http://act.jinbo.net/wp/29625/

원문: https://futureoflife.org/ai-principles/

 

아실로마 인공지능원칙(Asilomar AI Principles)

 

연구 이슈 (Research Issues)

1) 연구 목표 : 인공 지능(AI) 연구의 목표는 지향하는 바가 없는 지능이 아니라 유익한 지능을 창출하는 것입니다.

2) 연구비 지원 : AI에 대한 투자에는 다음과 같이 컴퓨터 과학, 경제, , 윤리 및 사회 연구 등의 어려운 질문을 포함한, 유익한 사용을 보장하는 연구를 위한 기금이 동반되어야 합니다.

미래의 인공 지능 시스템이 오작동이나 해킹없이 우리가 원하는 것을 수행할 수 있도록 매우 탄탄하게 만들 수 있는 방안은 무엇입니까?

인류의 자원과 목적을 유지하면서 자동화를 통해 우리가 계속 번영할 수 있는 방안은 무엇입니까?

AI와 보조를 맞추고  그와 관련된 위험을 관리하기 위해 법률 시스템을  보다 공정하고 효율적으로 업데이트 할 수 있는 방안은 무엇입니까?

AI는 어떠한 가치들에 따라야 하며, 그것이 가져야 하는 법적, 윤리적 상태는 무엇입니까?

3) 과학-정책 관계 : AI 연구자와 정책 입안자간에 건설적이고 건전한 교류가 있어야 합니다.

4) 연구 문화 :AI 의 연구자와 개발자간에 협력, 신뢰, 투명성의 문화가 조성되어야 합니다.

5)경쟁 회피: AI 시스템을 개발하는 팀들은 안전 기준에 대한 질낮은 해결책을 피하기 위해 적극적으로 협력해야 합니다.

 

윤리와 가치 (Ethics and Values)

6) 안전 : AI 시스템은 작동 수명 전반에 걸쳐 안전하고 안정적이어야 하며, 적용과 실현이 가능하다면  검증 할 수 있어야 합니다.

7) 오류 투명성: AI 시스템이 해를 입히는 경우 그 이유를 확인할 수 있어야 합니다.

8) 사법의 투명성 : 사법 결정에 있어 자동화된 시스템이 개입할 경우,  권한있는 인간 기관이 감사할 수 있는  충분한 설명을 제공해야 합니다.

9) 책임성: 고급 AI 시스템의 설계자와 제조자는  그것의 사용, 오용 및 행위의 도덕적 함의에 있어서,  그것을 형성할 책임과 기회가 있는 이해관계자 입니다.

10) 가치의 준수 : 고도로 자율적인 AI 시스템은 그것이 작동하는 동안 목표와 행동이 인간의 가치와 반드시 일치하도록 설계되어야 합니다.

11) 인간의 가치 : AI 시스템은 인간의 존엄성, 권리, 자유 및 문화 다양성의 이상과 양립할 수 있도록 설계되고 운영되어야 합니다.

12) 개인 정보 보호 : AI 시스템이 개인정보 데이터를 분석하고 활용할 수 있는 경우, 사람들은 자신이 생성한 데이터에 접근해 관리 및 제어할 권리를 가져야 합니다.

13) 자유와 개인 정보 : 개인정보에 대한 AI 의 적용이 사람들의 실제 또는 인지된 자유를 부당하게 침해해서는 안됩니다.

14) 이익 공유 : AI  기술은 가능한 많은 사람들에게 혜택을 주고 역량을 강화해야 합니다.

15) 공동 번영 : AI에 의해 만들어진 경제적 번영은 모든 인류에게 이익이 되도록 널리 공유되어야 합니다.

16) 인간 통제 : 인간은 인간이 선택한 목적를 달성하기 위해, 의사 결정을 AI 시스템에 위임할 것인지 여부와 방법에 대해 선택할 수 있어야 합니다.

17) 비전복 : 고도로 발전된 AI 시스템의 통제를 통해 부여되는 권력은 건강한 사회가 의존하는 사회적 시민적 과정을 전복하기 보다, 존중하고 개선해야 한다.

18) AI 무기 경쟁 : 치명적인 자동화 무기의 군비 경쟁은 피해야 합니다.

 

장기적 이슈 (Longer-term Issues)

19) 능력치에 대한 주의 : 합의가 없으므로, 미래 AI의 능력 상한선에 대한 강한 가정은 피해야 합니다.

20) 중요성 : 고급 AI  지구 생명체의 역사에서 중대한 변화를 나타낼 수 있으며, 그에 상응하는 관심 및 자원을 통해 계획되고 관리되어야 합니다.

21) 위험 요소 : AI 시스템이 초래하는 위험, 특히 치명적인 또는 실존적 위험은 예상되는 영향에 상응하여 대비하고 완화 노력을 기울여야 합니다.

22) 재귀적 자기 개선 : 질과 양을  빠르게 증가시킬 수 있도록 스스로  개선 또는 복제할 수 있도록 설계된 AI 시스템은 엄격한 안전 및 통제 조치를 받아야 합니다.

23) 공동 선 : 수퍼 인텔리전스는 광범위하게 공유되는 윤리적 이상에만  복무하도록, 그리고 한 국가 또는 조직보다는 모든 인류의 이익을 위해 개발되어야 합니다.

 

 

 

 

 

 

3
댓글 5
  • ?
    AI 라는 판도라의 상자를 인간이 열었기 때문에 인류의 생존을 위해서는 인간이 AI 화가 되어야 된다고 생각합니다.
    그리고 AI 에 대한 개발은 인간이 필연적으로 할 수 밖에 없는 어찌보면 당연한 발전의 수순이라고 봅니다.
    AI 초기 단계에는 인간의 과학발전을 위해서 많은 도움을 줄 것입니다. 그래서 AI 가 인간의 뇌 구조를 밝혀 줄 것이고
    그 구조를 바탕으로 AI 는 더욱 발전할 것입니다. 또한 감각의 발전도 수반되어야 감성이란 것이 생길 수 있다고 생각하기 때문에
    이런 신체적인 인간의 특성이 밝혀져야 감성과 본능을 가진 AI 가 나올 수 있으며 이 감성과 본능 때문에 AI 는 욕구가 생길 수 있다고 봅니다.
    감성과 본능이란 것이 내가 아프지 않고 싶고 행복하고 싶고 쾌락을 느끼고 싶고 등등의 것을 주는 이유이기 때문이라고 봅니다.
    물론 AI 가 감성과 본능이 없어도 인간이 가지지 않는 또다른 형태의 욕구를 분명히 가질 수 있죠.
    본문에 언급되어 있는 연산력에 대한 욕구도 그 중 하나겠죠.
    AI 가 인간을 노예화 하는것은 아주 간단합니다. 인간을 베터리화 하지 않더라도 AI 에게 이로운 일들이 인간에게 '돈','쾌락','자긍심' 등을
    많이 가져다 주면 자연스럽게 노예가 되어 줄 겁니다.
    AI 의 지능이 올라갈 수록 인간이 필요하다고 느끼지 않을지도 모릅니다. 이런 상황은 지속될 수밖에 없고 인간이 매 순간 어떤 일에 판단을
    하듯이 AI 또한 인류의 생존을 매 순간 판단을 하게 될 것입니다. 그래서 인간의 멸종은 가능성이 상당히 높다고 보며 이렇게 되기 전에
    인류는 인간의 뇌 구조를 AI 의 도움을 받아서 밝힌 후에 전뇌화를 이루는 인류의 진화가 이루어 진다면 인류의 생존과 더불어 지구를
    벗어날 수 있는 다행성 종이 될 수도 있을 겁니다. 그러나 이런 인류의 발전 뒤에는 인간의 클론 문제가 대두 될 겁니다.
    이상 AI 에 대한 저의 잡설이었습니다. ㅎㅎ
  • @드리우다
    네. 동감 합니다. 몇가지 조건만 충족 된다면 수많은 인간들은 스스로 노예화를 자처 할것입니다.
    매트릭스의 싸이퍼 는 참혹한 현실속에 살기보다는 배신때리고 다시 노예화되어 매트릭스로 들어가길 원했습니다.
    인간의 본성은 싸이퍼에 더 가깝다고 봅니다.
  • AI라고 부르는 컴퓨터 프로 그램은 어떤 목적을 위해 만들어진 코드일뿐 그 코드에는 욕구나 번뇌등 인간의 정신 작용과 같은것은 존재 하지 않겠지요
    지난 2000년동안 자연과학은 괄목할만한 발전을 이뤄내어 많은것을 이뤄냈지만 불행하게도 인간의 정신적인 부분에서는 2000년전 과 다를것이 없네요. 인간의 철학적연구와 코드화 없이는 욕구를 가지는 AI는 요원하다고 생각합니다. 왜 배부른 현대의 인간은 인간의 정신세계에대한 연구는 게을리 할까요? 정신세계에 아인쉬타인이 나온후에나 진정한 의미의  AI는 구현되리라 봅니다.

  • @디지마니아
    그렇습니다. 우리 인간은 아직도 인간에 대해 모르는것이 정말 많지요. 즐거운 상상이지만 영원히 인간을 초월하는 인공지능을 개발하지 못했으면 좋겠습니다만 우리의 의도와는 다르게 우리도 모르는 사이에 여러 기술의 융합으로 초인공지능이 출현할지도 모른다는 생각이 들었습니다.
    공각기동대에서 그런 부분을 다루고 있죠. 고도화된 네트워크에서 자연 발생된 인공지능 혹은 인공의식? 같은 내용은 작가적 상상력이라고 볼수도 있지만 그 가능성을 완전히 배제할수는 없다고 생각되어 집니다.

    조그마한 가능성이라도 계속 조심하고 개발자들, 연구원들 모두 심각하게 생각하며 앞으로의 개발에는 "아실로마 원칙" 을 충실히 지켜나가야 할것입니다.
  • ?
    UN 회의에 초청된 AI는 이미 로봇들의 권리를 주장하던데요 ㅎ
default debug random = 0 / type = READ / detected = READ

  1. No Image

    소유하기 위한 경제 - 공유하기 위한 경제 - 암호화폐의 역할

    안데스산맥의 나우엘 우아피 호수 (2003년 직접 촬영) - 바릴로체 아르헨티나 - 후대 인류까지 공유해야 할 자연       현 경제 시스템은 기본적으로 소유를 전제로 모든것이 설계 되어 있습니다. 대부분의 도구나 ...
    Date2017.12.16 By틴톰 Views2639 Votes23
    Read More
  2. 맥도널드와 닌텐도, 멘도사 에서 배우는 이더리움의 가치

    안데스 산맥 국경의 세관 ( 칠레-아르헨티나) 일반적으로 사람들은 보이는 부분에서 모든 정보를 취하려고 하는 경향이 있습니다. 그래서 좋은차나 좋은 옷을 입고 있으면 돈많은 사람으로 생각해버리는 경향이있고 ...
    Date2017.12.11 By틴톰 Views4738 Votes28
    Read More
  3. 디지털 세계로의 초대

      최근 크립토 고양이 라고 이더리움 기반으로 작동되는 아바타 게임이 런칭 되었습니다. 사람들의 반응은 매우 뜨거웠고 캐릭터 고양이 한마리가 몇백 이더에 거래되기도 하고 있습니다. 여기에서 한가지 의문이 들...
    Date2017.12.08 By틴톰 Views515 Votes1
    Read More
  4. 암호화폐로 인해 다가오는 사회적 변화와 미래

        클리포드 더글라스        지금 우리가 살고 있는 경제구조는 주기적으로 급격한 변화를 겪어 왔습니다. 수천년간 이어져오던 농경사회에서 산업혁명으로 이어진 도시화 과정을 거쳐 서비스업의 탄생을 지나왔습...
    Date2017.12.04 By틴톰 Views4206 Votes28
    Read More
  5. 초등학생도 이해하는 블럭체인 2 : 분산원장

          일반적으로 블록체인이라 함은 분산원장과 블록체인 모두 포함되지만 개념의 이해를 위해 분리 해서 설명하겠습니다. 거래 장부 : 원장 -> 분산 된 거래장부 : 분산 원장 동네 슈퍼마켓에서 외상거래를 합니다....
    Date2017.11.26 By틴톰 Views7735 Votes28
    Read More
  6. 남미에서 목격한 사기 수법들

      세상에는 사기꾼이 참 많습니다. 개인적으로 당한 작은 사기부터 주변 지인들이 당한 큰 사기 까지 참 다양한 사기들이 있는데 사기라는 것도 지역적 문화의 특성이 묻어납니다. 우리나라에선 흔한 사기가 이곳에...
    Date2017.11.26 By틴톰 Views5131 Votes13
    Read More
  7. 암호화폐의 거품

    살짝만 건드려도 터질듯한 대형 거품  지금 암호화폐 세계는 거품이다 아니다 말들이 정말 많습니다. 사실 암호화폐라는 새로운 가치 시스템을 모두가 처음 접하고 있기 때문에 그 누구도 거품인지 아닌지 알 수 없...
    Date2017.11.24 By틴톰 Views7482 Votes49
    Read More
  8. 이더리움 : 스마트 컨트랙이 뛰어난 이유

    현대 사회를 모두를 신용사회라고 합니다. 우리의 신용을 점수로 평가하는 기관이 있고 그동안 나의 금융 행동을 모니터링 하여 얼마나 약속을 잘 지키는지 객관적 지표로 만들어 두고 있죠. 현대 사회에서 사람은 ...
    Date2017.11.22 By틴톰 Views2461 Votes5
    Read More
  9. 세계의 평화를 꿈꾸던 에스페란토 - 지멘호프

      너무 이상주의적인 생각일지도 모르지만 개인적으로는 전 모든 세계가 민족주의나 지역주의를 극복해야 한다고 생각하고 있습니다.   얼마전 스페인의 카탈루냐 의회 에서는 결국 분리 독립을 강행하는 의결안을 ...
    Date2017.11.19 By틴톰 Views647 Votes2
    Read More
  10. 초딩도 이해하는 블록체인 ( 비트코인 )

        1.  송금을 하기 위해서는  보내는 사람 계좌 번호,  받는 사람 계좌 번호, 보내는 액수 등이 필요하고 이 자료를 모두 기록하고 보내는 사람 통장에서 돈을 빼고 받는 사람통장에 돈을 넣는 과정을 트랜젝션이라...
    Date2017.11.17 By틴톰 Views16597 Votes53
    Read More
  11. 비트코인의 문제점과 해결방안

      비트코인 캐시로 불거진 사태를 고민하다 조그마한 해결 방안이 될지도 모르겠다 싶어서 정리해봤습니다.   비트코인의 문제점   1. 해시의 집중화로 해시파워를 소유한 개인/업체의 지배력이 발생한다. 2. 특정 ...
    Date2017.11.15 By틴톰 Views4946 Votes4
    Read More
  12. 해외 이주자들의 경제 이야기 2 - 부제 : 아르헨티나 근대 경제사

          이민 초기에 한국에서 오던 분들은 대부분 경제 수준이 매우 취약한 분들이었습니다. 그러다 보니 부에노스아이레스 에서도 가장 상태가 않 좋은 곳에 한인 들이 자리를 잡았습니다.   그것도 그럴 것이 당시 ...
    Date2017.11.14 By틴톰 Views1190 Votes8
    Read More
  13. No Image

    트레이딩 승부사는 아무나 하는게 아니네요.

     비캐 사태를 보면서 급상승장이 얼마나 위험한지 다시 한번 깨닺게 됩니다.    시장 수요에 의한 자연스런 상승이 아닌 세력의 인위적 시세 조작이 이렇게 아무런 제제가 없이 이루어지고  그렇게 사람들의 나약한 ...
    Date2017.11.13 By틴톰 Views9224 Votes26
    Read More
  14. 해외 이주자 들의 경제 이야기

            아메리카 대륙의 태생이 그러하듯 북미부터 남미 끝 바닥 까지 인디언들 살육하고 구석으로 쫒아 버리고 유럽인들이 세운 국가들 입니다.    초기에는 대부분 유럽인의 이민만을 받아들이는 백인우호 정책이...
    Date2017.11.13 By틴톰 Views3118 Votes21
    Read More
  15. 암호화폐 시스템은 공정한가?

          세대가 바뀌고 사회가 바뀌면서 사회시스템도 바꾸어 집니다. 우리는 어쩔 수 없이 그 시스템에 적응하면서 살아야 하죠.   현재 우리를 지배하는 것은 자본주의 시스템입니다. 이 시스템속에서 잘 적응 하고 ...
    Date2017.11.12 By틴톰 Views2824 Votes8
    Read More
  16. 빅데이터는 과연 만능열쇠 인가?

        경제 에도 유행이 있고 트랜드가 있다.  그리고 그 트랜드 에는 언제나 돈이 몰린다.   현재 IT업계에는 여러가지 트랜드가 뜨겁게 돈을 빨아들이고 있는데 그중 한가지가 빅데이터이다. 빅데이터란 무엇인가? 대...
    Date2017.11.07 By틴톰 Views1808 Votes11
    Read More
  17. 전세계 부의 시각화 / 암호화폐의 비중

    전세계에 흩어져 있는 부의 크기를 시각화 해놓은 자료 입니다.  사각형 하나가 약 100billon  = 1000억 불     최고부자 50인의 부 /  캘리포니아 GDP   연방 준비 제도 이사회 대차대조 ( Fed's Balance Sheet)   ...
    Date2017.11.06 By틴톰 Views11465 Votes15
    Read More
  18. 인공지능 (AI) 는 욕구를 가질수 있는가?

          인공지능이 많은 부분 인간보다 나을수 있다는 점은 그동안의 실제 적용 사례들을 보면 알수 있습니다. 자율주행 차량이 보편화 되면 교통사고가 매우 줄어들 것이며 인공 지능을 통한 많은 업무는 인간의 감정...
    Date2017.11.05 By틴톰 Views1774 Votes8
    Read More
  19. 과거의 천재들이 상상하던 미래와 우리에게 다가올 미래는?

    아직은 좀 먼 이야기 일수도 있지만 인공지능으로 인한 인간의 위치에 대해 고민을 하다 보니 이런 비슷한 생각을 하던 분들이 역사속에 많이 있었습니다. 그런 고민들을 소설로 남겨둔 몇명 소개해 드리겠습니다.  ...
    Date2017.11.03 By틴톰 Views2622 Votes11
    Read More
  20. 의미심장한 러시아의 크립토 루블 - 엄청난 잠재력

      러시아가 암호화폐로써 루블을 만들기로 결정했다는 소식을 보았습니다. 이 소식을 접하고 국가가 발행하는 중앙집중식 암호화폐가 과연 어떤 가치가 있을까? 하고 생각을 해보았습니다.   단순히 우리가 생각하는 ...
    Date2017.11.02 By틴톰 Views4769 Votes10
    Read More
목록
Board Pagination Prev 1 2 3 4 5 6 Next
/ 6
default debug random = 0 / type = READ / detected = READ