영국 데이터 감시단체, 신경기술 차별 경고

Jan 26, 2024

첫째, 사람들은 알고리즘 편향에 대해 걱정했습니다. 이제 그들은 AI 편견이 위험을 확대하는 것을 걱정하고 있습니다. 그러나 곧 큰 우려는 신경기술(Elon Musk의 Neuralink, Jeff Bezos 및 Bill Gates의 지원을 받는 경쟁사이자 뇌 임플란트 제조업체인 Synchron 등을 포함하여 빠르게 팽창하는 분야)의 편견일 수 있습니다.

영국의 데이터 보호 규제기관인 정보위원회(ICO)는 오늘 신경계에서 나오는 신호를 활용하는 장치가 "향후 10년 동안 널리 보급될" 것으로 예상한다고 밝혔습니다. 연구자들은 이미 치매를 퇴치하고 마비된 사람들이 다시 걸을 수 있도록 돕기 위해 뇌 임플란트를 사용하고 있지만, 감시단체는 "개인 웰빙, 스포츠, 마케팅 분야에서 사용하기 위해 신경기술이 급속히 발전하고 있으며 심지어 직장에서 사람들을 모니터링하는 데에도 사용하고 있습니다"라고 말했습니다.

ICO는 특히 신경이 다양한 사람들을 대상으로 장치를 평가하지 않으면 신경 데이터를 읽고 해석하기 위해 개발 중인 모델에 위험한 편견이 스며들 수 있다고 우려합니다. 예를 들어, 신경기술 시스템은 특정 패턴이 "바람직하지 않다...[그래서] 그러한 패턴을 가진 사람들은 승진이나 고용 기회에서 간과될 수 있다"는 가정을 기본으로 갖고 있을 수 있습니다.

"신경기술은 감정과 복잡한 행동을 포함하여 사람들이 종종 인식하지 못하는 친밀한 개인정보를 수집합니다. 이러한 기술이 부적절하게 개발되거나 배포되면 결과는 끔찍할 수 있습니다"라고 해당 기관의 규제 위험 책임자인 Stephen Almond는 말했습니다.

싱크론은 이미 뇌 이식에 대한 인간 실험을 진행하고 있다. 올해 초 싱크론은 이식이 "안전해 보였고 환자들이 핸즈프리 문자 메시지, 이메일 전송, 온라인 뱅킹 및 쇼핑을 할 수 있고 자신의 생각을 사용해 진료 요구 사항을 전달할 수 있게 됐다"고 밝혔다. 자사의 뇌 인터페이스가 "오늘 충족되지 않은 의학적 요구가 있는 사람들에게 자율성을 회복하고 내일 인간의 잠재력을 열어줄 것"이라고 주장하는 Neuralink는 몇 주 전에 마침내 인간 테스트에 대한 FDA 승인을 받았습니다.

Meta는 또한 이전 Facebook의 모습으로 몇 년 동안 두뇌 인터페이스 공간에 손을 대었지만 소비자 머리 장착형 하드웨어가 아직 멀었다는 이유로 2021년에 철수했습니다. 대신에 메타버스와 상호 작용하는 데 유용할 수 있는 전기 운동 신경 신호를 감지할 수 있는 손목 착용 장치를 개발하는 데 집중하기로 결정했습니다.

ICO는 이러한 웨어러블 장치가 피트니스 트래커에 통합되고 직장에 배포되며 VR/AR 게임을 플레이하는 데 사용되는 등 몇 년 안에 실제 시장 견인력을 얻을 것으로 예상합니다.

그러나 Apple의 Vision Pro 헤드셋을 작업하면서 이를 "눈을 통한 조잡한 두뇌 컴퓨터 인터페이스"라고 묘사한 신경공학자 Sterling Crispin의 매혹적인 트윗을 본 적이 있다면...아니요, ICO는 그것에 대해 걱정하지 않습니다. 한 대변인은 "우리는 사람의 뇌와 신경계에서 직접 데이터를 수집하는 것에 대해 이야기하고 있다"고 말했습니다.

ICO는 2025년까지 구체적인 신경 데이터 지침을 발표할 것이라고 밝혔습니다. 그동안 해당 주제에 대한 보고서가 나와 있으며 여기에서 읽을 수 있습니다.

아래에 더 많은 소식이 있습니다.

데이터 시트에 대한 생각이나 제안을 보내고 싶으십니까? 여기에 줄을 놓으십시오.

데이비드 메이어

데이터 시트의 일일 뉴스 섹션은 Andrea Guzman이 작성하고 큐레이팅했습니다.

Google과 Salesforce가 협력합니다. 2017년 분석 및 빅데이터 협력 이후 거대 기술 기업인 Salesforce와 Google이 다시 협력하기로 결정했습니다. 이 최신 프로젝트를 통해 기업은 맞춤형 기계 학습 모델과 함께 데이터를 사용하여 고객의 요구 사항을 예측할 수 있습니다. 여기에는 Salesforce의 데이터 클라우드를 Google의 BigQuery 및 플랫폼 Vertex AI와 통합하여 사용자가 Vertex에서 훈련한 AI 모델을 Salesforce의 플랫폼 전체에 가져올 수 있도록 하는 작업이 포함됩니다. 이 계약은 Salesforce가 올해 Einstein GPT로 알려진 고객 관계 관리 보조원과 같은 새로운 AI 도구에 대해 발표하고 Google이 미국 클라우드 인프라 시장에서 Amazon과 Microsoft를 뒤쫓고 있는 가운데 TechCrunch가 보도한 바 있습니다.