波音737帶來的啟示：人工智能是不是要向習慣低頭？

[復制鏈接]

zmztx

電梯直達

1^#

發表于 2019-3-17 09:22:02 | 只看該作者 |倒序瀏覽 |閱讀模式

本帖最后由 zmztx 于 2019-3-17 12:05 編輯

***** 本帖不涉及政治 ******

波音737max8半年時間里摔了兩架，失事原因尚無定論。
現在有兩點對波音很不利。一是在兩個現場發現的部件能證明尾翼抬起機頭向下栽，而且駕駛員也說機頭拉不起來；還有就是裝了兩套軟件，一個是防失速系統，一個是反防失速系統。防，而后在反防，這一點確實不好理解。
可話說回來，波音公司在出事后仍然信心滿滿。再就是波音737MAX飛機在各國在使用的數量很多，為什么大部分飛機沒出事。
其實機頭拉不起來和兩個軟件系統是一回事，都是為了飛行姿態。有人分析，軟件對姿態控制（當然還有硬件，如傳感器）的優先權高于駕駛員，換句話說就是姿態控制交給軟件系統了，沒駕駛員什么事了。那么照這個邏輯，系統不可靠，凡是裝這種控制系統的都該直接掉下來了。可實際上只掉下來兩架。
據說，波音研制或者參與研制的戰斗機、轟炸機中，也有裝這種軟件系統的，是經過考驗的。當然是在作戰飛機上的考驗
于是，就有這樣的認識
第一，技術不能太超前，以至于人們難以掌握
第二，采用先進技術，使用者必須經過充分的訓練
當然，失事原因還沒確認。但是上述兩點分析確實值得深思
我想，假如真是機頭無法控制，那么關掉那套控制系統不就完了嗎？也許是連怎么關都是很復雜的操作，以至于事到臨頭，關都關不上。

分享到: QQ好友和群 QQ空間

收藏0 轉播分享 淘帖0 問題專業，描述清楚0 伸手黨/灌水/看不懂0

回復

使用道具舉報

zmztx

2^#

樓主| 發表于 2019-3-17 09:38:52 | 只看該作者

本帖最后由 zmztx 于 2019-3-17 09:51 編輯

技術不能太先進，否則難以掌握。
在工廠里，這種事情常見。比如質量控制，你要搞一套復雜有麻煩的方法，一二三四好多條，估計沒什么實際效果。
但你要說，往轉軸上貼塊膠布，軸轉沒轉，轉了多少，一目了然！

一些功能復雜的軟件也是這樣
比如設計軟件，除非你按一個鍵，機器就設計完成了。否則，如果需要人機配合，各個功能劃分、自動化程度就需要好好的斟酌。
還有就是導航，不同的功能模塊使用當中，需要給出指引，退出怎么操作，回退怎么操作，繼續有幾個選擇，等等。最好不要和現有的習慣太擰巴。各位可以注意，3D-CAD軟件，和以往手工繪圖習慣并不太擰巴。
就像737-8，啟用自動系統時，一旦給出信號，機頭就會下壓（這個過程是10秒）。這時駕駛員要干預，好像需要關閉系統再操作。而兩次失事飛機的駕駛員，好像直接和系統較勁，反復十幾次，結果還是控制不住。也許戰斗機駕駛員訓練足夠，也過關，相對年輕反應快。民航駕駛員也許有些達不到這種水平。還有就是民航飛機一般都裝自動駕駛系統（巡航用，有的汽車也有）。我想是不是這種失速控制系統，在使用習慣上和以前的自動駕駛系統有很大不同，如果套用老經驗，也許就送命了。

回復問題專業，描述清楚伸手黨/灌水/看不懂

使用道具舉報

王紅強whq

3^#

發表于 2019-3-17 09:50:10 | 只看該作者

頂

回復

使用道具舉報

andriycike

4^#

發表于 2019-3-17 10:46:51 | 只看該作者

系統軟件問題導致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的，智能軟件在工作的時候，人工操作是無效的，必須先關閉智能控制再進行人工操作，很多事故都是飛行員沒有關閉智能控制就進行人工操作，逐漸喪失控制能力，心態越來越慌，最終導致飛機失控，表面原因是飛行員不熟悉軟件，或者過度疲勞緊張，歸根到底還是我們正處在人工向智能過渡的階段，一方面智能技術還不夠成熟就已經大范圍推廣和更新，另一方面人類對于智能不信任，導致一線的操作者也處于一種糾結的狀態中，我相信智能最終會完全取代人工，但這個過程中必然會有嘗試與損失

回復問題專業，描述清楚伸手黨/灌水/看不懂

使用道具舉報

zmztx

5^#

樓主| 發表于 2019-3-17 11:26:34 | 只看該作者

本帖最后由 zmztx 于 2019-3-17 12:01 編輯

andriycike 發表于 2019-3-17 10:46
系統軟件問題導致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的，智能軟件在工作的時候，人工操作 ...

是的
不過，汽車巡航系統啟動后，如果司機動方向盤，系統自動切換到人工駕駛。也就是說權限由自動系統馬上就交給了人。我的意思是：
如果人習慣了某種操作，飛機駕駛員可能下意識的覺得，只要動方向，系統也馬上就把權限交給人。可惜系統沒交權限，人一下子就暈了。然后就較勁。
我覺得在權限切換上有待改進。當然，如果超音速戰斗機在兩三個馬赫數飛行時，姿態控制上，就沒打算交給人控制。那是另外一回事。
不管最后結論如何，這畢竟是個問題。

人的養成的習慣，有時真的會壞事
比如機床，在走刀前可能會要看一下軌跡，防止撞床子。操作就是搖一下手柄。可到了數控機床，就需要修改程序。試完后再用上刀程序走。這個地方出問題的不少，直接把床子報廢的也有。這時是賴數控系統還是賴人呢？
說的再直接一點：設計者包括自動系統的設計者，在這種情況下，是不是要讓步？迎合習慣？向習慣低頭？