テスラ・モデルS (カテゴリ 自動車関連スタブ項目)
初の火災については自動車の欠陥を示す証拠は見当たらないとコメントを出したが、会社株価が下落する事態となった。 2016年5月7日、アメリカ、フロリダで高度運転支援システム(ADAS)であるHardware 1Autopilotで運転中テスラ・モデルSが前を対向車線から左折したトレーラー横に
11キロバイト (1,382 語) - 2019年3月23日 (土) 04:36



(出典 image.jimcdn.com)



1 みつを ★ :2019/04/07(日) 08:06:14.60 ID:ZSUJdalR9.net

https://security.srad.jp/story/19/04/05/0652240/

テクノロジー
カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃

ストーリー by hylom 2019年04月05日 15時55分だまし絵にころっと騙されそう 部門より

headless曰く、
TeslaのAutopilot機能を車載システムに侵入することなく攻撃する手法について、Tencent Keen Security Labが研究結果を公表している(Keen Security Lab Blog、SlashGear、Ars Technica、動画)。

Keen Security LabではTesla車のセキュリティ調査を以前から行っており、昨年のBla* Hat USA 2018ではTesla車のWi-Fi/3G通信機能を経由してAutopilot ECU(APE)に侵入し、のルート権限を取得する研究の成果を発表している。今回の研究ではルート権限を利用して外部からゲームコントローラーでハンドルを操作する手法に加え、車載カメラにadversarial exampleを撮影させ、自動ワイパー機能や車線検出機能のニューラルネットワークを混乱させる手法が検証されている。

従来の自動ワイパーではフロントガラスに落ちた雨粒による光の反射の変化を光センサーで検出する手法が用いられているのに対し、Teslaではカメラで撮影したフロントガラスの映像をニューラルネットワークで処理して降雨を判断しているという。研究ではカメラからの映像にわずかなノイズを加えることで降雨スコアが上昇することを確認しているが、映像を改変する攻撃は現実的ではない。そのため、車両前方に配置したテレビにノイズの画像を表示する実験を行い、ウォーリーノイズを表示した場合に降雨スコアが大きく上昇することを確認した。動画ではウォーリーノイズを画面に表示するとワイパーが動き出しており、先行車両のリアウィンドウや道路脇など、Teslaの魚眼カメラに写る場所へノイズ画像を表示することでワイパーを作動させることができるとみられている。

車線検出機能を混乱させる攻撃としては、車線を見失わせる攻撃と偽の車線を認識させる攻撃を検証している。車線を見失わせる攻撃では、カメラからの映像に強いノイズを加えたり、ペイント部分にパッチを加えたりすることで、ペイントが検出されなくなることが確認された。ただし、現実の道路でAPEが混乱するレベルまでペイント部分にステッカーなどのパッチを貼った場合、ドライバーが気付いてしまう可能性が高い。Teslaではペイントが消えかかっているなど状態の悪い道路の画像を学習させているとみられ、車線を見失わせる攻撃には強いようだ。一方、道路上に小さなステッカーをいくつか配置することで車線のペイントと誤認識することが確認されており、動画では車線を斜めに横切る形で数個のステッカーを貼るだけで対向車線に進ませるデモも行われている。





10 名無しさん@1周年 :2019/04/07(日) 08:32:39.91 ID:eQr1et9i0.net

>>1
色々あると思うよ。
だから人間レベルの知能を持つまでは、
AIになんか任せられん。


73 名無しさん@1周年 :2019/04/07(日) 11:09:50.43 ID:2o7qsOkm0.net

>>10
人間並みのレベルまで上げると錯覚しまくりで使い物になんない


66 名無しさん@1周年 :2019/04/07(日) 10:48:17.15 ID:cUgLhPSk0.net

>>1
こういう風に固有名詞をアルファベット表記するの止めてくれないかな?
カッコイイつもりか? 読み難いんだよ。


69 名無しさん@1周年 :2019/04/07(日) 11:02:03.50 ID:GeSrxJLu0.net

>>66
カタカナだと元の意味が伝わらない。

Keenだと『鋭い』ってすぐにわかるし、Ars Technicaだとラテン語の威厳を利用した大仰な社名だという所まで読み取れる。


89 名無しさん@1周年 :2019/04/07(日) 12:09:31.75 ID:FzmnD7wa0.net

>>1
フロントガラスの光の反射を捉えているなら、レーザー光とかプロジェクターでフロントガラスにハッキング用画像を投影すれば終わりだな。
何てお手軽ハッキングだよ


2 名無しさん@1周年 :2019/04/07(日) 08:07:35.59 ID:OroJWlQn0.net

マジかよ、パヨクシナチョン最悪だな。


3 名無しさん@1周年 :2019/04/07(日) 08:13:39.61 ID:5fTXjgIb0.net

総統は曹洞宗 いやなんとなく;


4 名無しさん@1周年 :2019/04/07(日) 08:14:32.54 ID:cQGoaljl0.net

天下一品と進入禁止の判別は
できるのかよ?


32 名無しさん@1周年 :2019/04/07(日) 09:23:01.54 ID:AXy9lr8w0.net

>>4
止まれの看板を90度曲げればいい


5 名無しさん@1周年 :2019/04/07(日) 08:14:56.67 ID:EVnNedGC0.net

航空機のオートパイロットプログラムより高度なものが求められそうな世界だよな
自動運転車って


6 名無しさん@1周年 :2019/04/07(日) 08:17:42.92 ID:j3howbxQ0.net

負の研究によって自動運転のレベルが上がればいいね


7 名無しさん@1周年 :2019/04/07(日) 08:18:52.19 ID:bnm/dQo60.net

騙すのはカメラでもセンサーでも無いんだけどな。
認識モデル、つまりソフト側


8 名無しさん@1周年 :2019/04/07(日) 08:22:09.39 ID:EtGvsTMA0.net

テロが捗りますね。


9 名無しさん@1周年 :2019/04/07(日) 08:29:14.67 ID:7oDWuOQD0.net

ゆえにAIに任せるのだ、
悪質なウイルスに対応するには人より優れたAIの誕生、
あ、シンギュラリティかwなるほどw


11 名無しさん@1周年 :2019/04/07(日) 08:41:16.36 ID:WU45Om2r0.net

それもうテロやんか


41 名無しさん@1周年 :2019/04/07(日) 09:42:08.27 ID:BfMEWvtB0.net

>>11
テロじゃ無い
不完全な機器を差も万能であるかのように過信して
見切り発車すてうる不届き企業への警告


12 名無しさん@1周年 :2019/04/07(日) 08:42:32.12 ID:eQr1et9i0.net

横転した車の絵をバンの後ろに描くことは
今の法律ではテロでもなんでもないだろ。


19 名無しさん@1周年 :2019/04/07(日) 08:50:38.70 ID:EyHdraAm0.net

>>12
法律違反ではないけどテロに利用出来るだろ


21 名無しさん@1周年 :2019/04/07(日) 08:52:01.66 ID:eQr1et9i0.net

>>19
法律が現状のままではテロではなくて
テスラの落ち度。


38 名無しさん@1周年 :2019/04/07(日) 09:39:44.77 ID:EyHdraAm0.net

>>21
そんなこと言うとらん


20 名無しさん@1周年 :2019/04/07(日) 08:50:49.85 ID:m8hNEpjF0.net

>>12
何を視て横転していると判断するのか、、意味の無いラインや模様だけで誤認識して大事故になる予感がするよ


23 名無しさん@1周年 :2019/04/07(日) 08:53:53.32 ID:eQr1et9i0.net

>>20
車の底の絵を描く。

現状でも鏡のようなトラックとか
天下一品とか、自動運転の障害に
なるようなゴミは沢山あるけどな。


36 名無しさん@1周年 :2019/04/07(日) 09:30:04.10 ID:Sp27dFg70.net

>>23
それは自動運転の技術のほうがまだまだ不完全なんだよ


13 名無しさん@1周年 :2019/04/07(日) 08:43:12.25 ID:z5Nuq5Wv0.net

危なくて道歩けん


14 名無しさん@1周年 :2019/04/07(日) 08:43:51.43 ID:UlBCVCu80.net

測距センサーのジャミングするだけで事故や大渋滞になるのか


15 名無しさん@1周年 :2019/04/07(日) 08:45:59.03 ID:m8hNEpjF0.net

壁にトンネルの絵を描くやつでも試してくれ


83 名無しさん@1周年 :2019/04/07(日) 11:46:30.67 ID:jIz4cgrj0.net

>>15
w
怖すぎ


16 名無しさん@1周年 :2019/04/07(日) 08:46:30.42 ID:vaVaCcOY0.net

なにが言いたいんだかサッパリわからん。


17 名無しさん@1周年 :2019/04/07(日) 08:48:09.80 ID:yMh2iL4i0.net

スーパーの駐車場で空いていると思ったら軽が停まっているっていう誤認も頻発しそう


18 名無しさん@1周年 :2019/04/07(日) 08:50:10.97 ID:UrmqlCSk0.net

運用開始後にバグッたら詫び石がとんでもないことになるからしょうがないね


22 名無しさん@1周年 :2019/04/07(日) 08:53:43.39 ID:NitTHJOV0.net

>16
詳しいことはわからんけど「AIにはまだまだ穴がある」でしょ。


24 名無しさん@1周年 :2019/04/07(日) 08:55:12.04 ID:tNAJWsDj0.net

飛行機の操縦は機械制御の順番が決まっているから
操縦能力だけで飛行できるが
自動車は四方八方の確認作業を行いながら
常に運転状態を保たないといけない
瞬間的判断の連続を持続させるゆえに
自動運転車の制御はむずかしい


25 名無しさん@1周年 :2019/04/07(日) 08:56:39.69 ID:4VipBxJu0.net

夜中に白線をガードレールに向かって塗り替えておいて

翌朝現場を見に行く

ってDQNな遊びが流行りそう

ワクワクしてきたぞ


26 名無しさん@1周年 :2019/04/07(日) 09:00:02.78 ID:BatnaBKW0.net

目を盗まれたごっこ


27 名無しさん@1周年 :2019/04/07(日) 09:03:56.90 ID:eam87e9J0.net

正直、画像認識やレーダーだけで自動運転は安全的に無理だろ

道路や標識みたいなインフラや、
周りの車ともリアルタイムで通信して情報を得て
双方が同じ結論が出てはじめて動けるみたいなシステムにしないと


31 名無しさん@1周年 :2019/04/07(日) 09:12:11.10 ID:4VipBxJu0.net

>>27
高速道路で100km/hで走ってる時にセンサーからの情報と外部からの上方に矛盾が生じたらその場で急ブレーキかけるのかよ


28 名無しさん@1周年 :2019/04/07(日) 09:08:22.54 ID:YK2Is8pm0.net

人間が錯視に騙されるのと変わらん
ツボが違うだけだ


55 名無しさん@1周年 :2019/04/07(日) 10:12:55.33 ID:oCgQUQYh0.net

>>28
AIでも人と同じような錯視が再現されたから
人の錯視の研究が進むとかテレビで言ってたな
AIでも錯視対策は必要なんだろうな


29 名無しさん@1周年 :2019/04/07(日) 09:08:41.37 ID:zS7tRE3j0.net

レーザー光線とか大丈夫なのかな


30 名無しさん@1周年 :2019/04/07(日) 09:10:53.73 ID:nICFN8rz0.net

俺の目に侵入しやがったなぁ!!


33 名無しさん@1周年 :2019/04/07(日) 09:23:27.39 ID:mA2wvr1j0.net

つべで比較テスト見たけど
チョンダイとdsだけぶつかってたな。


34 名無しさん@1周年 :2019/04/07(日) 09:25:09.84 ID:8xI0krdx0.net

この実験自体は有意義なんだけど、自動運転特有の欠陥じゃ無いよね。
人間のドライバーにレーザー照射しても事故るし。


35 名無しさん@1周年 :2019/04/07(日) 09:29:07.71 ID:ggmfxi+a0.net

>>34
人間のドライバーはシール数枚で対向車線へは飛び出さない


42 名無しさん@1周年 :2019/04/07(日) 09:43:37.11 ID:8xI0krdx0.net

>>35>>37
Aという欠陥があるから廃止しようというのは、
人間の運転でもいくらでも言える。
意味のない論法。


50 名無しさん@1周年 :2019/04/07(日) 10:05:40.65 ID:iWkgywTg0.net

>>42
免許持ってる?


37 名無しさん@1周年 :2019/04/07(日) 09:37:14.04 ID:EDkMuP9k0.net

>>34
充分に欠陥
製作者が意図していない行動を起こすならばそれはバグであり欠陥である


43 名無しさん@1周年 :2019/04/07(日) 09:54:27.37 ID:4VipBxJu0.net

>>34
ちょっと違うかなあ

レーザーは明白な攻撃だけど
道路にステッカー貼るのは攻撃なのかな?


44 名無しさん@1周年 :2019/04/07(日) 09:56:41.92 ID:8xI0krdx0.net

>>43
それ自体違法だぞ?
公道に物を設置するってことでしょ?


62 名無しさん@1周年 :2019/04/07(日) 10:32:19.30 ID:4dpRJysj0.net

>>44
一時的なものなら違法ではなさそう
占有するとダメ、また簡単に取れるテープだとそのままでも違法性は問われないと思う


80 名無しさん@1周年 :2019/04/07(日) 11:37:30.79 ID:WgwT93U30.net

>>44
道路に紙切れが数枚落ちていたら車線と誤認識する可能性がある


45 名無しさん@1周年 :2019/04/07(日) 09:57:10.98 ID:EyHdraAm0.net

>>43
ステッカー貼ることでダメージを与えられることを知った上でやるなら攻撃なんじゃない


59 名無しさん@1周年 :2019/04/07(日) 10:30:57.81 ID:ycpedkhw0.net

>>43
置き石と似たようなもんじゃない?
将来的には法規制されるだろうね


39 名無しさん@1周年 :2019/04/07(日) 09:40:27.94 ID:6uaMuIw80.net

自動運転は怖いよ
前からトラックが逆走して右か左かに避けなきゃならん時に右に有力政治家
左に貧乏人の俺がいたら左に切られるんだろうな


70 名無しさん@1周年 :2019/04/07(日) 11:02:35.37 ID:Skr2Dv+50.net

>>39
自動運転車「前方よりトラック。只今よりクラッシュテストを行います。」


40 名無しさん@1周年 :2019/04/07(日) 09:41:57.27 ID:EyHdraAm0.net

早く寝てるだけで目的地につくようになって


82 名無しさん@1周年 :2019/04/07(日) 11:40:56.29 ID:Vxq9BUBbO.net

>>40
運転手雇う方が早いね


46 名無しさん@1周年 :2019/04/07(日) 09:58:00.22 ID:stJYSegW0.net

この記事見て早速ユーチューバーが反対車線に誘導しそう、逮捕者ゾロゾロだな


47 名無しさん@1周年 :2019/04/07(日) 10:00:51.42 ID:m8hNEpjF0.net

安易に自動運転をうたうメーカへの警鐘だよ
白線だけを頼りに車線をキープしていたら分岐帯に突入した、、*なメーカーとかあったし
顔認識システムも赤ん坊ですら出来る顔全体を認識するのでは無く 顔の要点数か所だけで判断しているだけだからトンデモナイ間違いを*ているし
今回も同じ理由で簡単に胡麻化されている 自動運転なんてまだまだだよ


48 名無しさん@1周年 :2019/04/07(日) 10:01:59.18 ID:NUpDSTkD0.net

これ、雪道走行はまったくできなさそうだな
センサー部位に鳥の*とか虫がついてもダメそう


52 名無しさん@1周年 :2019/04/07(日) 10:08:43.14 ID:stJYSegW0.net

>>48
ボーイング737Max、バードアタックで墜落な


49 名無しさん@1周年 :2019/04/07(日) 10:05:04.32 ID:GkilrKde0.net

鉄道でも自動運転できてないのに、自動車でしかも一般道での自動運転なんぞ不可能だろう。


51 名無しさん@1周年 :2019/04/07(日) 10:08:16.53 ID:gmfMVnzf0.net

ひとつだけ大事なこと
自動運転車にはそれを知らせるマーク(初心者マークのようなもの)を提示する義務を課すべき。


53 名無しさん@1周年 :2019/04/07(日) 10:09:23.13 ID:bfWmdrTc0.net

まず、免許を持ってない奴は発言禁止な。


54 名無しさん@1周年 :2019/04/07(日) 10:09:24.63 ID:OogeTs1k0.net

熟練のSFおじさんはニューロマンサーの頃から知ってるはず


56 名無しさん@1周年 :2019/04/07(日) 10:19:10.52 ID:4e7WpfZQ0.net

完全犯罪し放題じゃん


57 名無しさん@1周年 :2019/04/07(日) 10:21:23.60 ID:uiVmRh8J0.net

人間も紛らわしい標識には騙されるし
そもそも標識の上にシール貼られたらどうしょうもないだろう

安全というのをどう定義するかの問題だろ
安全というのは「人間レベルの事故率」というのなら今のAIでも達成しているが


58 名無しさん@1周年 :2019/04/07(日) 10:22:36.04 ID:71zq18zi0.net

路上に人の写真の立て札とか、騙し絵みたいな壁作ったら騙されるの?


60 名無しさん@1周年 :2019/04/07(日) 10:31:14.53 ID:6u5p8+Rd0.net

地吹雪舞う冬の北海道を無事に走破できるなら自動運転を信じてあげる


61 名無しさん@1周年 :2019/04/07(日) 10:31:16.64 ID:IE3T6hgQ0.net

AIを騙して対向車線に進ませるなんてのは論外だが、
飛び出し事故が多い道路で道端に3m置きに横断者がいるように見せかけて
そのあたり数百メートルは徐行しかできないようにするとかなら
いい攻撃だと思う


63 名無しさん@1周年 :2019/04/07(日) 10:34:04.88 ID:4Ekds6DG0.net

新種の迷彩とかになるんですかこれ


64 名無しさん@1周年 :2019/04/07(日) 10:34:15.19 ID:mqlZJp5W0.net

車線のペイントとか消えかかってる場所けっこう有るよな


65 名無しさん@1周年 :2019/04/07(日) 10:41:27.85 ID:ePY4BiA30.net

人工知能を搭載しないと完全自動運転は不可能。
クルマを運転する人間はそれだけのことを思考して判断している。
よって、先ずは存在さえしていない人工知能を完成させる必要があるが、
現在の技術では論理的に不可能らしいね。
日本中の専門家が寄ってたかって得た結論が人工知能は技術的に不可能。


67 名無しさん@1周年 :2019/04/07(日) 10:58:33.32 ID:EyHdraAm0.net

不具合が見つかるとアップデート
アップデートすると起動しなくなるなんてことも起きそう

>>65
個々の車に人工知能搭載すると、個体差が出て余計ややっこしいことになりそう


71 名無しさん@1周年 :2019/04/07(日) 11:02:57.82 ID:ePY4BiA30.net

>>67
君はアニメの見過ぎ。
人工知能は個性を持てない。


68 名無しさん@1周年 :2019/04/07(日) 11:00:14.13 ID:Vxq9BUBbO.net

運転放棄するなら公共交通機関使えばいいのに


72 名無しさん@1周年 :2019/04/07(日) 11:05:03.49 ID:YWPnPQA40.net

高速道路のブラインドコーナーを事故車と散乱した部品や荷物が塞いでたりしたら、自動運転車はちゃんと回避できるのかね。
検出される障害物が多すぎて、回避ルートの計算が間に合わないんじゃないかと思うんだが。


74 名無しさん@1周年 :2019/04/07(日) 11:17:44.67 ID:2o7qsOkm0.net

>>72
それは回避しちゃダメだろw


76 名無しさん@1周年 :2019/04/07(日) 11:23:16.01 ID:Vxq9BUBbO.net

>>72
動物の飛び出しや飛んでくる虫やゴミなども、全て正しく判断できるとは思えないよな


78 名無しさん@1周年 :2019/04/07(日) 11:31:49.33 ID:jTxKV3MS0.net

>>72
首都高のブラインドなんて
人間でも普通に突っ込むし
機械だから何とかできるとするなら
十分な車間がとれてブレーキかけても
後続に多重オカマ掘られないくらいだ

基本的に危険回避は命が助かれば良しとしよう
車なんて保険でどうにでもなる


85 72 :2019/04/07(日) 11:48:57.83 ID:YWPnPQA40.net

>>78
10年ほど前だが、俺は東名高速のブラインドコーナーの追い越し車線に「家」(庭とかに置く8畳タイプ)」が落ちてたのに遭遇したことがあってな。
前方の全車両がパニックブレーキを踏みスキール音を上げながら左車線になだれ込み、俺は後続車の追突を避けるために緊急車両レーンに逃げ込んで難を逃れた。
ああいう斜め上な事態をAIが適切に処理できるとは到底思えんのよ。


93 名無しさん@1周年 :2019/04/07(日) 12:45:49.18 ID:WpPbNm3d0.net

>>85
家ってなんの間違いかしばらく考えたが、
要はプレハブが落っこちてたってことか


75 名無しさん@1周年 :2019/04/07(日) 11:20:42.88 ID:2o7qsOkm0.net

金集めや話題性のためにL5自動運転のニュースばかり取り上げるのは自動運転の普及を妨げてる
L4自動運転なら容易に実用可能なのに


77 名無しさん@1周年 :2019/04/07(日) 11:30:23.39 ID:7FyWJWYU0.net

プリウスの後をついて行ったらコンビニに突っ込んだ


79 名無しさん@1周年 :2019/04/07(日) 11:35:40.12 ID:NUpDSTkD0.net

ハイブリッド車みたいに、運転アシストAIの期間とってノウハウ蓄積してくしかないだろ
いきなり自動運転めざすなよ


81 名無しさん@1周年 :2019/04/07(日) 11:39:57.11 ID:/M3yQIZy0.net

テストカーの偽装ペイントもダメ?


84 名無しさん@1周年 :2019/04/07(日) 11:47:21.92 ID:jIz4cgrj0.net

路面にタヌキや猫の横たわる絵を描くと避けるのかな?


86 名無しさん@1周年 :2019/04/07(日) 11:50:16.36 ID:aJvDPfqD0.net

AIで自動運転が出来るレベルにあるのなら
そのAIで信号機を制御しろよと言いたくなる。

視界の開けた交差点で
前後左右には自分以外誰もいないのに信号が赤になる非効率さ。


87 名無しさん@1周年 :2019/04/07(日) 12:01:06.29 ID:DdLwLnkS0.net

自動運転が自動車側だけで完結すると思ってるやつとかいるの?


88 名無しさん@1周年 :2019/04/07(日) 12:08:18.60 ID:Vxq9BUBbO.net

自動運転が完成するとか思ってるやついるの?


90 名無しさん@1周年 :2019/04/07(日) 12:11:29.93 ID:0wicC0NY0.net

次々に崖から車ごとバンジーするおまいらはゆはゆ


91 名無しさん@1周年 :2019/04/07(日) 12:18:01.46 ID:WgwT93U30.net

完全自動運転ならワイパーはカメラのとこだけでいいんじゃない?


92 名無しさん@1周年 :2019/04/07(日) 12:29:56.90 ID:Voo6LktX0.net

降雨判断なんてスタンドアローンでできるだろうに
わざわざネットワークを介してるってことはデータを交通情報とかウェザーニュースとかで換金する算段でもあるのかな


94 名無しさん@1周年 :2019/04/07(日) 12:48:24.49 ID:ArVMVkuG0.net

AIにも穴はあるんだよな・・・


95 名無しさん@1周年 :2019/04/07(日) 12:49:12.31 ID:jIz4cgrj0.net

>>94
愛には穴が不可欠


96 名無しさん@1周年 :2019/04/07(日) 13:37:42.11 ID:i0aqZToc0.net

>>94-95
ワロタw


97 名無しさん@1周年 :2019/04/07(日) 14:20:36.29 ID:cJrajtzO0.net

トラックの改造無線積んでるの最近は居ないの?


98 名無しさん@1周年 :2019/04/07(日) 14:25:31.60 ID:cCuVlKr60.net

薄くS字になってる直線も衝突アラートなるから
gpsから道の予想はしてないって事やんな?


99 名無しさん@1周年 :2019/04/07(日) 14:28:54.19 ID:z6f/z9vw0.net

自動運転車を改造して爆弾テロなどはやろうと思えば可能だよなぁ。


100 名無しさん@1周年 :2019/04/07(日) 14:34:23.02 ID:SZH/jWO10.net

センターラインを書き換えて道路の形状を誤認させて、絶壁に突っ込ませるような
こともできちゃうんかな?




こちらもおすすめ!

このページは「【News】Car Multi Information」が管理しています。