위험평가 전략을 적용하여 인공지능을 바라본 관점

인공지능은 인간의 지능을 모방하거나 초월하는 컴퓨터 시스템이다. 인공지능이 지나치게 빨리 발전하여 인류에 오히려 위협이 될 것인지 우려하는 사람들도 있는 것 같다. 인공지능이 위험하다면 어떤 위험평가전략을 사용해서 다루어야 할지 알아보자.

인공지능은 다양한 분야에서 유용하게 활용되고 있지만, 동시에 인공지능이 인간에게 위협이 될 수 있는 가능성도 존재한다. 예를 들어, 인공지능이 인간의 의도와 상관없이 자신의 목표를 추구하거나, 인공지능이 인간의 가치와 윤리를 공유하지 못하거나, 인공지능이 인간의 통제를 벗어나거나, 인공지능이 인간의 사회와 경제에 부정적인 영향을 미치거나 하는 경우가 있다. 이러한 위험을 예방하고 관리하기 위해서는 인공지능을 위험평가 전략으로 바라보는 관점이 필요하다.

위험평가 전략

위험평가 전략은 위험관리의 핵심적인 단계로, 조직이 자신의 자산에 대한 위험을 어떻게 처리할 것인지를 결정하는 과정이다. 위험평가 전략에는 일반적으로 다음과 같은 네 가지 옵션이 있다.

• mitigation : 위험을 완전히 제거하거나 피할 수 없는 경우, 위험의 발생 가능성이나 영향도를 줄이는 방법이다. 예를 들어, 어떤 솔루션을 도입하거나 백업을 수행하는 것이 이에 해당한다.
• transfer : 위험을 다른 주체에게 이전하는 방법이다. 예를 들어, 생길 수 있는 위험에 대해 보험에 가입하거나 계약상 책임을 상대방에게 전가하는 것이 이에 해당한다.
• avoid : 위험을 발생시키는 활동이나 요인을 피하는 방법이다. 예를 들어, 위험한 지역이나 시장에서 사업을 하지 않거나, 취약한 기술이나 서비스를 사용하지 않는 것이 이에 해당한다.
• accept : 위험을 인식하고 감수하는 방법이다. 예를 들어, 위험의 발생 가능성이나 영향도가 낮거나, 대응 비용이 너무 높은 경우에 수용하는 방향으로 이를 선택할 수 있다.

위의 네 가지 옵션 중에서 어떤 것을 선택할지는 목표, 비용, 자원, 환경 등 다양한 요인을 고려하여 결정해야 한다. 또한 위험의 종류와 특성에 따라 다른 옵션을 혼합하여 적용할 수도 있다. 예를 들어, 일부 위험은 완화하고 일부 위험은 전가하고 일부 위험은 피하고 일부 위험은 수용하는 식으로 조합할 수 있다.

 

위험 평가 전략은 어떤 사업의 안전과 성공에 매우 중요한 역할을 하므로 신중하게 수립하고 실행해야 한다. 또한 위험 환경은 지속적으로 변화하므로 정기적으로 평가 전략을 검토하고 개선해야 한다.

 

인공지능 위험평가

위에서 이야기한대로 위험평가 전략이란 위험을 식별하고 분석하고 평가하고 감소시키고 평가하는 과정을 말한다. 위험평가 전략으로 인공지능을 바라보는 관점은 적어도 위에서 말하는 Avoid 회피 전략을 사용하기는 어렵다. 그렇다고 무작정 Accept 전략으로 받아들이는 것도 무리이다. 인공지능의 위험성에 대한 우리의 전략은 위험을 줄여나가는 Mitigation 전략을 취해야 할 것이다. 위험을 다른 대상으로 전가하는 Transfer 전략도 있을 수 있겠으나 이를 Hedge 헷지 할 보험이나 대체 상품이 없기 때문에 이것도 고려하기 어렵다.

Mitigation전략으로서 고려해야 할 점은 아래와 같다.

• 인공지능의 발전과 활용에 대한 책임과 투명성을 강화하는 방향으로 개발이 진행되어야 한다. 이렇게 할 경우 인공지능의 위험을 미리 파악하고 적절한 조치를 취함으로써, 인공지능의 개발자와 사용자는 인공지능의 영향과 결과에 대해 설명할 수 있고, 책임을 지울 수 있다.
• 인공지능의 안전성과 신뢰성을 향상시키는 방향으로 추진해야 한다. 이는 인공지능의 위험을 최소화하고 예방함으로써, 인공지능의 오류와 결함을 줄일 수 있고, 인공지능의 성능과 품질을 높일 수 있도록 추진되어야 한다.
• 인공지능의 사회적 수용도와 윤리적 타당성을 높이는 방향으로 추진해야 한다. 이는 인공지능의 위험을 공정하고 합리적으로 평가하고 관리함으로써, 인공지능이 인간의 가치와 권리를 존중하고 보호할 수 있고, 인공지능이 사회적으로 유익하고 공정하게 활용될 수 있다.
• 마지막으로 위의 전략대로 추진하기 위해 우리는 인공지능의 개발 속도를 조절해야 할 수도 있을 것이다. 제로부터 시작하여 만들어진 알파고 제로가 70시간 만에 모든 알파고의 버전을 이길 수 있었다는 사실은 인공지능의 빠른 학습능력과 딥러닝으로 초고속으로 발전할 수 있다는 것을 의미한다.

따라서, 인공지능을 위험평가 전략으로 바라보는 관점은 인공지능의 발전과 활용에 있어 중요한 역할을 할 수 있다. 이러한 관점은 인공지능의 잠재적인 위협과 도전에 대응하고, 인공지능의 긍정적인 기회와 장점을 활용하고, 인공지능의 지속적인 성장과 혁신을 지원할 수 있는 방법이다.

 

마무리 정리

인공지능의 발달에 따라 인공지능은 인간의 일상생활과 사회활동에 점점 더 깊숙이 관여하면서, 인간의 정체성과 가치관, 도덕관, 삶의 의미 등에 대한 새로운 고민과 대답이 필요해졌다. 인공지능의 이러한 관여의 수준을 어느 정도로 유지할 것인지는 인간의 태도에 달려있다. 일단 현재는 인공지능이 이만큼 발전한 것에 대한 놀라움의 수준에 머물러 있지만 언제까지 놀라고만 있을 수는 없는 일이다.