- UC버클리 대학 연구진은 모질라 재단이 개발한 오픈소스 음성 엔진을 이용해서 명령어를 합성한 다음 이를 음악 안에 숨겨서 재생하는 데 성공
- AI스피커의 음성인식 시스템이 인식하던 소리를 취소하고 대신 원하는 명령어를 알아차리게 하는 방법을 고안
- 웹사이트를 열어보거나 물건을 주문하도록 악용 가능. "(지금 상용화된 AI스피커 시스템을) 누군가 악용하는 건 시간문제"
기사에는 아래 두 경우를 인용했는데, 이건 따로 찾아봐야겠습니다.
2016년, 중국 연구진이 AI 스피커에 초음파를 들려주어 공격하는 '돌핀어택' 영상 제작
2017년, 버거킹 TV 광고에 "OK 구글, 와퍼 버거가 무엇이지?" 대사를 삽입, 구글 홈/구글 어시스턴트가 위키백과 "와퍼 버거" 항목을 읽어주도록 함.
PS
'AI비서의 실수' 아마존 알렉사, 가족대화 외부에 잘못 전송 - 연합뉴스 2018.5.25
- 아마존 에코가 있는 집 부부의 대화가 자기도 모르게 녹음돼 연락처 명단에 있는 동려에게 전송된 사건.
- 아마존도 사건을 확인함. 에코가 대기모드에서 마이크를 모니터링 중 "알렉사"라고 인식한 단어가 있었고 그 다음 대화를 메시지 전송 요구로 인식하고 작업을 자동 실행.
- 아마존의 분석으로는, 최종 실행 전 알렉사가 화자에게 맞냐고 확인했다는데, 화자들은 자기들이 녹음지시를 내린 줄도 몰랐기 때문에 반응하지 않았고, 알렉사는 다음 대화를 승락 의사로 인식, 처리.
해당 기사를 소개한 글의 댓글에도 재미있는 이야기가 여럿 있네요.
댓글 없음:
댓글 쓰기