연합뉴스 본문 바로가기 메뉴 바로가기

연합뉴스 최신기사
뉴스 검색어 입력 양식

[PRNewswire] 리더들, 책임감 있는 AI 관행에 책임지고 행동해야

송고시간2019-07-04 19:26

-- PwC, 새 보고서 발표

(다롄, 중국 2019년 7월 4일 PRNewswire=연합뉴스) PwC의 새 보고서에 따르면, 책임감 있는 인공 지능(AI) 관행이 전 조직으로 통합되고, AI 발전 이전에 이를 고려해야만 15조7천억 달러에 달하는 AI의 경제적 잠재력[1]이 실현될 수 있다고 한다.

이번 주 PwC가 발표한 새로운 툴킷에 따르면, AI의 발전과 통합에 대한 단편적인 접근법(조직이 잠재적인 위험에 노출)을 방지하려면 조직이 책임감 있는 AI 관행에 대한 포괄적인 이해, 발전 및 통합이 필요하다고 한다.

PwC는 조직이 구체적인 AI 전략, 설계, 개발 및 설치를 위해 집중하고 맞춤해야 하는 5개 영역을 소개했다. 해당 5개 영역은 '거버넌스', '윤리와 규제', '해석과 설명 능력', '견고함과 보안', 그리고 '편견과 공정'이다.

이들 5개 영역은 AI 발전에 전략적 기획과 거버넌스를 도입하는 데 중점을 두며, 공정성, 신뢰 및 책무성에 관한 대중의 우려를 타파한다.

올해 초 85%의 CEO들이 향후 5년 이내에 AI가 사업 방식을 크게 바꿀 것으로 예상했고, 84%는 AI 기반 결정을 신뢰하기 위해서는 그에 대한 설명이 가능해야 한다고 언급했다[2].

PwC 미국 국제 AI 리더 Anand Rao는 이번 주 다롄에서 열린 세계경제포럼에서 다음과 같이 연설했다.

"대부분의 사업 리더는 AI의 윤리와 책임감 문제를 분명히 우려하고 있다. 기업의 중역은 AI 발전을 위해 책임감 있고, 윤리적인 전략을 포괄적으로 통합하는 작업을 적극적으로 추진하고 진행해야 한다. 그 목적은 한 세대에 한 번뿐인 AI의 사업 및 사회적 변혁과 경제적으로 잠재적인 수익 간에 균형을 맞추는 것이다. 둘 중 하나만 없어도 근본적인 명성, 운영 및 재정 위험에 노출될 것이다."

PwC의 책임감 있는 AI 툴킷에 포함된 진단 조사는 기업이 책임감 있고, 윤리적인 AI 관행에 대한 이해와 적용을 평가하도록 지원한다. 2019년 5월과 6월에 AI 개발과 설치에 종사하는 약 250명이 이 평가 설문에 응답했다.

조사 결과, 책임감 있고 윤리적인 AI 관행의 이해와 적용에서 미숙하고 비일관적인 면이 드러났다.

- 응답자 중 AI 솔루션 시행 전에 윤리적 시사점을 우선 고려하겠다고 답한 비율은 25%에 그쳤다.

- 응답자 5명 중 1명(20%)은 AI와 관련된 위험을 파악하기 위한 과정을 명료하게 정의했다. 60% 이상이 개발자나 비공식적인 과정에 의존하거나 문서화된 절차가 없었다.

- 윤리적인 AI 체제 또는 고려가 있기는 했지만, 시행은 일관적이지 않았다.

- 56%는 기업 AI에 무언가 문제가 생겼을 그 원인을 정확하게 파악하기가 힘들 것이라고 답했다.

- 응답자 중 절반 이상이 편견에 대한 AI 평가 방식을 갖추고 있지 않았으며, 그 이유로 지식, 도구 및 즉석 평가 부족을 언급했다.

- 대규모로 AI를 적용하고 있는 응답자 중 39%가 AI가 잘못될 경우 멈추는 법을 "어느 정도" 확실하게 알고 있다고 답했다.

PwC 미국 국제 AI 리더 Anand Rao는 "AI는 기회를 제공하는 한편, 신뢰와 책무성 문제를 내재하고 있다"라며 "AI의 생산성 목적을 달성하기 위해서는 통합적인 조직과 직원 전략 및 기획이 있어야 성공할 수 있다. 기업의 중역은 확실히 조직 내 현재와 미래 AI 관행을 검토하고, 잠재적인 위험에 대한 질문뿐만 아니라 적절한 전략, 제어 및 과정이 있는지 파악하기 위한 질문도 해야 한다"고 언급했다.

이어 그는 "AI 결정은 인간의 결정과 다름없다"며 "사례마다 자신의 선택을 설명하고, 그와 연관된 비용과 영향을 파악해야 한다"고 말했다. 또한, "이는 비단 편견 감지, 수정, 설명 및 안전하고 보안이 확실한 시스템을 구축하기 위한 기술 솔루션에만 해당하는 것은 아니다"라면서 "첫날부터 기술이 사업에 미치는 영향을 윤리와 책임감 차원에서 고려하는 새로운 수준의 총체적인 리더십이 필요할 것"이라고 강조했다.

이번 주 다롄에서 열린 세계경제포럼 발표식에서 PwC China의 글로벌 기술, 매체&통신 리더인 Wilson Chow는 "책임감 있는 AI를 위한 초석은 포괄적인 기업 거버넌스"라면서 "조직이 책무성, 조정 및 제어에 관한 질문에 답할 수 있는 능력은 중국이 야심 찬 AI 성장 전략을 시행할 수 있는 결정적인 요인이 될 것"이라고 덧붙였다.

PwC의 책임감 있는 AI 툴킷은 유연한 확장성 국제 역량 라인으로 구성되며, 기업의 독특한 사업 요건과 AI 성숙도에 따라 AI 평가와 발전을 가능하게 하고, 지원하도록 설계됐다.

편집자 주:

1. 2019년 5월과 6월에 약 250명의 선임 사업 임원들이 PwC의 책임감 있는 AI 진단 설문지를 작성하고, '거버넌스', '윤리 및 규제', '해석과 설명 능력', '견고함과 보안', '편견과 공정성' 등과 같은 책임감 있는 AI 5개 영역에서 AI 솔루션의 개발, 설치 및 지속적인 관리를 평가했다. PwC의 책임감 있는 AI 툴킷에 관한 추가 정보는 www.pwc.com/rai를 참조한다.

2. AI 투자를 도모하는 주요 요인으로는 효율성 증대, 지속가능한 의사결정 지원(AI for Good[https://aiforgood.itu.int/ ]), 수익 개선, 혁신 및 위험 완화 등이 있다.

3. 2017년, PwC는 2030년에 세계 GDP가 AI 덕분에 14%(15조7천억 달러) 증가할 것으로 예상했다. 추가 정보는 https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html을 참조한다.

4. 세계경제포럼의 연례 뉴 챔피언 회의(Meeting of the New Champions)에 참석한 PwC의 활약을 더 자세히 보려면 www.pwc.com/amnc를 참조한다.

PwC 소개

PwC의 목적은 사회에서 신뢰를 구축하고, 중요한 문제를 해결하는 것이다. PwC는 158개국에 위치한 기업들의 네트워크로서, 250,000명이 넘는 회원들이 양질의 보증, 자문 및 세금 서비스를 제공하는 데 전념하고 있다. PwC에 관한 추가 정보 및 중요하다고 생각되는 사안 제보는 www.pwc.com을 참조한다.

PwC는 PwC 네트워크 및 하나 이상의 PwC 회원사를 지칭한다. 각 PwC 회원사는 별도의 법인이다. 더 자세한 내용은 www.pwc.com/structure를 참조한다.

(c) 2019 PwC. 모든 권리 보호.

[1] PwC's Global Artificial Intelligence study, Sizing the Prize [https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html ]

[2] PwC's 22nd Global CEO Survey [http://www.pwc.com/ceosurvey ]

PwC 트위터: @PwC [https://twitter.com/PwC ]

출처: PwC

Leaders Need to Take Responsibility for, and Action on, Responsible AI Practices - PwC

DALIAN, China, July 4, 2019 /PRNewswire/ -- The estimated $15.7trn economic potential of artificial intelligence (AI)[1] will only be realised if the integration of responsible AI practices occurs across organisations, and is considered before any developments take place, according to a new paper by PwC.

Combating a piecemeal approach to AI's development and integration - which is exposing organisations to potential risks - requires organisations to embed end-to-end understanding, development and integration of responsible AI practices, according to a new toolkit published this week by PwC.

PwC has identified five dimensions organisations need to focus on and tailor for their specific strategy, design, development, and deployment of AI: Governance, Ethics and Regulation, Interpretability & Explainability, Robustness & Security, and Bias and Fairness.

The dimensions focus on embedding strategic planning and governance in AI's development, combating growing public concern about fairness, trust and accountability.

Earlier this year, 85% of CEOs said AI would significantly change the way they do business in the next five years, and 84% admitted that AI-based decisions need to be explainable in order to be trusted[2].

Speaking this week at the World Economic Forum in Dalian, Anand Rao, Global AI Leader, PwC US, says:

"The issue of ethics and responsibility in AI are clearly of concern to the majority of business leaders. The C-suite needs to actively drive and engage in the end-to-end integration of a responsible and ethically led strategy for the development of AI in order to balance the economic potential gains with the once-in-a-generation transformation it can make on business and society. One without the other represents fundamental reputational, operational and financial risks."

As part of PwC's Responsible AI Toolkit, a diagnostic survey enables organisations to assess their understanding and application of responsible and ethical AI practices. In May and June 2019, around 250 respondents involved in the development and deployment of AI completed the assessment.

The results demonstrate immaturity and inconsistency in the understanding and application of responsible and ethical AI practices:

- Only 25% of respondents said they would prioritise a consideration of the ethical implications of an AI solution before implementing it.

- One in five (20%) have clearly defined processes for identifying risks associated with AI. Over 60% rely on developers, informal processes, or have no documented procedures.

- Ethical AI frameworks or considerations existed, but enforcement was not consistent.

- 56% said they would find it difficult to articulate the cause if their organisation's AI did something wrong.

- Over half of respondents have not formalised their approach to assessing AI for bias, citing a lack of knowledge, tools, and ad hoc evaluations.

- 39% of respondents with AI applied at scale were only "somewhat" sure they know how to stop their AI if it goes wrong.

Anand Rao, Global AI Leader, PwC US, says:

"AI brings opportunity but also inherent challenges around trust and accountability. To realise AI's productivity prize, success requires integrated organisational and workforce strategies and planning. There is a clear need for those in the C-suite to review the current and future AI practices within their organisation, asking questions to not just tackle potential risks, but also to identify whether adequate strategy, controls and processes are in place.

"AI decisions are not unlike those made by humans. In each case, you need to be able to explain your choices, and understand the associated costs and impacts. That's not just about technology solutions for bias detection, correction, explanation and building safe and secure systems. It necessitates a new level of holistic leadership that considers the ethical and responsible dimensions of technology's impact on business, starting on day one."

Also at the launch this week at the World Economic Forum in Dalian, Wilson Chow, Global Technology, Media and Telecommunications Leader, PwC China, added:

"The foundation for responsible AI is end-to-end enterprise governance. The ability of organisations to answer questions on accountability, alignment and controls will be a defining factor to achieve China's ambitious AI growth strategy."

PwC's Responsible AI Toolkit consists of a flexible and scalable suite of global capabilities, and is designed to enable and support the assessment and development of AI across an organisation, tailored to its unique business requirements and level of AI maturity.

Notes to editors:

1. Around 250 senior business executives completed PwC's Responsible AI Diagnostic survey in May and June 2019, assessing the development, deployment, and ongoing management of their AI solutions against five critical dimensions of Responsible AI: Governance, Ethics & Regulation, Interpretability & Explainability, Robustness and Security, and Bias & Fairness. Find out more about PwC's Responsible AI Toolkit at www.pwc.com/rai.

2. Among the primary drivers identified for investment in AI were efficiency gains, supporting sustainable decision-making (AI for Good [https://aiforgood.itu.int/ ]), enhancing revenue, innovation, and risk mitigation.

3. In 2017, PwC estimated Global GDP will be 14% higher in 2030 as a result of AI - the equivalent of an additional $15.7 trillion. For more information see: https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html

4. To find out more about PwC's involvement in the World Economic Forum Annual Meeting of the New Champions, visit www.pwc.com/amnc

About PwC

At PwC, our purpose is to build trust in society and solve important problems. We're a network of firms in 158 countries with more than 250,000 people who are committed to delivering quality in assurance, advisory and tax services. Find out more and tell us what matters to you by visiting us at www.pwc.com.

PwC refers to the PwC network and/or one or more of its member firms, each of which is a separate legal entity. Please see www.pwc.com/structure for further details.

(c) 2019 PwC. All rights reserved.

[1] PwC's Global Artificial Intelligence study, Sizing the Prize [https://www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-study.html ]

[2] PwC's 22nd Global CEO Survey [http://www.pwc.com/ceosurvey ]

Follow @PwC [https://twitter.com/PwC ]

Source: PwC

[편집자 주] 본고는 자료 제공사에서 제공한 것으로, 연합뉴스는 내용에 대해 어떠한 편집도 하지 않았음을 밝혀 드립니다.

댓글쓰기
에디터스 픽Editor's Picks

영상

뉴스
댓글 많은 뉴스