AI는 아직 성숙하지 않았지만 이제 대부분의 사람들이 이점이 무엇인지 이해하는 시점에 있습니다.
관련 보기
그러나 이러한 잠재적인 이점을 모두 활용하려는 기업은 일체 포함 여전히 윤리적 고려와 편견의 회피를 최우선 과제로 삼아야 합니다. 이번 주 샌프란시스코에서 열린 Salesforce의 Dreamforce 이벤트에서 열린 패널 세션에 따른 것입니다.
세일즈포스(Salesforce)의 수석 과학자인 리처드 소처(Richard Socher)는 "정확도 수준이 지금은 너무 높아서 몇 년 전에는 수백 명의 사람들이 할 수 없었던 일을 1년 안에 할 수 있습니다."라고 말했습니다. "이제 이 제품이 작동하고 있으므로 윤리적 의미에 대해 정말로 생각해야 합니다."
다음 읽기: Elon Musk는 AI가 "인간의 통제 범위를 벗어났다"고 경고했습니다.
Salesforce의 Ethical AI Practice 설계자인 Kathy Baxter는 다음과 같이 덧붙였습니다. AI는 엄청나게 좋은 일을 할 수 있지만 무의식적으로 개인에게 해를 끼칠 가능성이 있습니다. 우리는 AI가 마술처럼 사회의 편견을 배제할 것이라고 기대할 수 없습니다.
"있는 그대로의 세상이 아니라 우리가 원하는 세상을 어떻게 표현합니까?"라고 Baxter는 계속 말했습니다.
AI가 본질적으로 학습해야 한다는 점을 감안할 때 인간이 주도할 것입니다. AI 개발 개발과 관련하여 윤리적으로 행동하고 올바른 일을 하는 것은 우리의 책임입니다. Salesforce 미래학자인 Peter Schartz가 진행한 패널은 그렇게 믿습니다.
Baxter는 특히 사람들이 성별이나 인종과 같이 변경하거나 통제할 수 없는 요인으로 인해 부정적인 영향을 받지 않도록 해야 한다고 강조했습니다.
인공지능 윤리 문제가 불거진 것은 이번이 처음이 아니다. Elon Musk는 그의 모든 기이함에도 불구하고 AI에 대한 이러한 입장 몇 년 동안 그리고 이달 초 세계 경제 포럼의 AI 책임자 비슷한 감정을 되풀이했다.
Dreamforce 패널은 AI의 단점과 잠재적인 편견에 대해 사람들을 교육하는 것이 스마트 시스템의 이점을 홍보하는 것만큼이나 중요할 것이라고 강조했습니다. 궁극적으로 오늘날의 기술과 마찬가지로 입력한 데이터만큼 좋은 결과를 얻을 수 있습니다. 지금의 AI도 마찬가지입니다.
다음 읽기: 인재가 해외로 이동함에 따라 영국은 AI 두뇌 유출에 직면
소처는 “AI는 인터넷보다 인류에게 더 큰 영향을 미칠 것”이라고 덧붙였다. “AI는 편향을 포착하여 증폭하거나 계속 유지할 것입니다. 우리는 AI가 훈련 데이터만큼만 좋다는 것을 사람들에게 교육해야 합니다.”
Baxter는 Salesforce가 인식 및 교육 수준을 높이는 역할을 인식했다고 말했습니다. Trailhead와 기타 AI 중심 리소스를 사용하여 클라우드 회사는 사람들이 정보에 입각한 결정을 내릴 수 있도록 잠재력과 함정에 대한 눈을 뜨도록 돕길 희망합니다.
“훈련 데이터의 품질이 핵심입니다. 고객이 데이터를 보고 이해하는 데 도움이 되므로 오류가 있는 경우 편견이 있는지 식별할 수 있으므로 수정할 수 있습니다.”라고 Baxter는 덧붙였습니다.
"윤리는 체크리스트가 아니라 마음가짐이며, 이를 초기에 주입해야 합니다."
