인텔의 모빌 아이 (Mobileye)는 최근 논문을 발표 수학 공식이 차의 안전을 보장하기 위해 자동 운전 차량 충돌 책임을 결정하기 위해 사용될 수 있음을 지적, 그것은 자율적 인 차량뿐만 아니라 시청자의 신경의 필드를 감동 도출 된 문제점은 다음과 같습니다; "? 업계 플레이어는 제품 안전의 자신의 정의를 심판 할 수있는 방법", "보안 및 책임은과 혼동 될 수 있는가?"
이러한 이유로 EE Times는 로봇 공학, 임베디드 컴퓨터 시스템, 자동 조종 장치 안전 및 인간 - 로봇 상호 작용에 이르기까지 많은 학자 전문가에게 질문했으며,이 전문가들에게 Mobileye / Intel 수석 부사장 Amnon Shashua를 분석하도록 요청했습니다. Shai Shalev-Shwartz, mobileye 기술 담당 부사장은 그들이 바라는 견해와 문제점에 동의하는지 여부를 논의하고, 업계에 조언을 제공합니다.
사실은 학자들이 거의 Mobileye 연구 결과 긍정적 인 견해를 제공하는 한 측면임을 증명했다, 그들은 결국에 준수하는 것을 칭찬했다, 자기 운전의 분야에서 가장 어려운 문제.
미국의 카네기 멜론 (Carnegie Mellon) 대학의 Phil Koopman 교수는 "전반적으로 차량을 자동으로 주행시키는 안전에 대한 예비적이고 엄격한 접근법을 보는 것이 좋을 것이라고 생각한다. 자동차는 할 수있는 일과 할 수없는 것을 판단 할 수있는 방법이 있어야합니다. 그래서 나는이 방향에서 작가의 작품을 존경합니다.
Human and Autonomy Lab의 Duke 교수 인 Missy Cummings는 "이 문제에 대해 Mobileye의 생각을 깊이 생각해 주셔서 정말 감사합니다."라는 생각에 동의합니다.
그러나 코프 먼 (Coopman)과 커밍스 (Cummings) 교수는 모바일 아이의 접근 방식이 실제의 탄력성의 첫 단계에 불과하다고 생각합니다. 특히 자동 조종 장치가 공존해야하는 경우 중대한 도약이기 때문에자가 운전을하는 것이 안전 할 수 있기 때문에 Mobileye의 정의는 세계의 가혹한 현실에 적응할 수 있어야합니다.
Koopman은자가 운전 안전에 대한 Mobileye의 구체적인 권장 사항을 중요하게 생각하지만 그는 "처음에는 완벽한 조언을 할 수있는 사람은 아무도 없습니다. 그러나 중요하지 않습니다. 우리는자가 운전을 표현하고 공식화하기 위해 다양한 방법을 시도 할 것입니다 실용적인 솔루션을 찾을 때까지 보안을 유지하십시오. "
이 논문에서 Mobileye의 "보안"에 대한 토론의 두 저자는 그들의 전략이 "안전하다는 것을 증명하고, 그런 의미에서 자동 조종 장치 차량에 기인하는 교통 사고로 이어지지는 않는다"는 것을 설명하는 것이지만,이 Duke 대학 Cummings는 "증명할 수있는 안전성"(증명할 수있는 안전성)은 새로운 개념이 아니며 인터넷에 인용 된 많은 학술 논문을 찾을 수 있다고 지적했습니다 (링크 참조).
그녀는 보안의 가장 어려운 문제는 변하지 않았다고 말했다. "컴퓨터 과학자는 수학적 관점에서 보안을 입증 할 수있는 것을 고려한다고해서 테스트 엔지니어가 안전하다고 동의하지는 않는다."
질문해야합니다.
쿠프 만과 커밍스는 모빌 아이 (Mobileye) 만든 가정의 경고가 당연한 촬영 의문을 제기 할 필요가 될 수 없음을 말했다; 쿠프 말처럼 ". 몇 가지 가정이 현실 세계에서 일어나는 경우에, 나는 매우 놀랄 것입니다있다"
Cummings의 예는 소프트웨어 오류이며, 다음은 Mobileye의 작성자가 보안 문제에 대해 설명한 것입니다.
... 안전하지 않은 행동으로 이어지는 오류에 대해 논의 중입니다. 앞에서 언급했듯이 Google의 전략은 안전하다는 것이 입증되며,이 점에서 자동 조종 차량에 의한 교통 사고로 이어지지는 않습니다. (모든 센서가 손상되거나 고속 전원에 구멍이 뚫리는 등) 소프트웨어 고장 (일부 모델에는 심각한 오류가 있음) 또는 감지 오류가 발생합니다. 우리의 궁극적 인 목표 그러한 사건의 가능성을 최소화하는 것인가? 시간당 10 9 번 발생할 확률.
Cummings는 Mobileye가 소프트웨어 오류로 인해 발생할 수있는 잠재적 인 문제라고 주장하는 잠재적 인 문제에 대해 질문을 제기했으며, 종종 소프트웨어 문제로 인해 발생하는 보안 문제로 자주 제기되는 차량 역사의 사건을 탐구하는 보고서를 인용했습니다.
Koopman의 의혹은 레이다와 레이더의 문제입니다 : "레이 시온과 레이더의 독립성과 해결 될 수 있다고 믿기는 어렵습니다. 그리고 논의 된 가정"그는 "누군가가 그들이 옳았다는 것을 입증해야합니다 가설에 불과하지 않으며, 일부 가정이 잘못되었다는 것이 거의 확실하며, 저자는 실수를 범했다고도 모르고 있습니다. "
Koopman이 걱정하는 것과 같습니다 : "이것은 안전입니다. 사고는 가장 힘든 부분이므로 사고를 계획하고 사고가 났을 때주의해야합니다."라고 말했습니다. "저자가 가정을 만들기 시작한 것을보고 기쁩니다. 그 때문에이 가정을 테스트하기위한 출발점이 있다고 가정하고 있습니다."
보안 정의
Koopman은 Mobileye의 보안 정의에 대해 그다지 걱정하지 않습니다. "이 논문은 책임의 속성에 대한 가혹한 정의가 있다면 절대 비난받지 않을 시스템을 구축 할 수 있다고 주장합니다 "그는 시스템의 관점에서 볼 때 이것은 안전 할 수 있으며, 도로의 모든 차량에 이러한 전략이 있고 따르는다면 모든 것이 안전 할 것이라고 생각한다"고 말했다.
Koopman은이 개념의 실제 구현에 대한 걱정을 인정하면서 다시 한번 강조했습니다. "왜 작동하지 않는지 아는 것은 매우 중요한 부분이며, 우리가 생각하고 배울 수있는 실질적인 제안을 보는 것입니다 좋은 것들. "
그렇다면, 쿠프는 방법 모빌 아이 (Mobileye)가 자신이 자율적 인 차량은 "시스템을 ''속임수 '방법을 배울 수 있다는 것을 의심하는 잠재적 어떤 문제 제안 생각;? 현실 세계에서 인간의 드라이버들은 다음, 도로의 규칙에 허점을 찾을 수 어느 정도 이러한 허점의 사용, 그럼 왜 "인공 지능"자가 운전의 동일한 트릭을 재생할 수없는거야?
(계속)
컴파일러 : Judith Cheng