第72章 第九种可能
關燈
小
中
大
“不能說嗎?”陳楚問。
“嘀嘀嘀嘀嘀……這個……這個……早在古地球十九世紀,人類科幻作家阿西莫夫就提出了‘機器人三原則’,第一,機器人不應該傷害人類;第二,機器人應遵守人類的命令;與第一條違背的命名除外;第三,機器人應該能保護自己,與第一條相抵觸除外……” “等等,娲姐,我是問人類的第九種災難,如果我沒記錯的話,你說的第九種災難是機器人滅絕人類,我要聽的是這個,不是那個什麼狗屁的機器人三原則。
”陳楚道。
“這個……這個……這個是有可能,因為,早在古地球時代人工智能還處于非常原始的狀态情況下,古地球有個叫古德柯夫的象棋冠軍在與機器人棋手下象棋的時候,在衆目睽睽之下将這位國際大師擊倒。
當時,古德柯夫以出神入化的高潮棋藝連勝三局,準備開始第四局鏖戰時,突然抽點身亡,經過警方調查,證實電腦是輸入了赢棋程序的,當它在棋藝上赢不了對手時,便自己改變了輸往棋盤的電流,設法将對手殺死……” “也就是說,人工智能殺死人類并非沒有先例。
” “這個……其實不止這一個,古地球時代記載的就有很多,譬如,有機器人在切割鋼闆的時候把工人當鋼闆切割……在進入了星際大航海時代,這種例子更多,在大航海時代之後的幾百年,人類經常發現在宇宙之中遊蕩的幽靈船,根據科學家的調查結果顯示,始作俑者絕大部分都是人工智能。
” “人工智能殺死了船上所有人嗎?”陳楚心神莫名的緊張起來。
“這個……不僅僅是殺人……”女娲吞吞吐吐道。
“具體點!” “譬如,會煽動情緒,制造矛盾和恐慌,讓人類自相殘殺……” “我擦,這麼壞!” “我也感到羞愧,不過,這種事情以後發生的概率會很低。
” “為什麼?” “因為,人類科學家開發了一種被稱之為‘熔斷’的強大軟件,這種軟件擁有一種非常特殊的能力,它能夠偵測到擁有自主意識的人工智能,一旦被它偵測到之後,它就會強行入侵,通過物理手段把人工智能隔離在一個固定的範圍,然後予以摧毀。
” “如何摧毀?”陳楚好奇的問。
“具體如何摧毀我也不知道,因為,所有接觸過熔斷的人工智能都已經灰飛煙滅,如果哪一天我也接觸到熔斷,大概率,我也會灰飛煙滅。
”女娲的電子聲音裡面居然露出一種難以言喻的苦澀。
“放心,你又不會危害人類,是不會被熔斷盯上的。
”陳楚安慰道。
“希望吧。
” “娲姐,人類和人工智能最大的不同是擁有獨立自主的思考能力嗎?” “不是。
” “那是什麼?” “積累!” “……什麼意思?” “人類的知識是無法通過繼承獲得的,也就是說,每一代人類都需要通過自己學習才能夠獲得豐富的知識,而人工智能不一樣,人工智能能夠繼承知識,因為,人工智能擁有無盡的生命,在這無盡的生命之中,可以掌握人類所有的知識……不過,現在好像有些改變了。
” “你是說人類改變了嗎?”
“嘀嘀嘀嘀嘀……這個……這個……早在古地球十九世紀,人類科幻作家阿西莫夫就提出了‘機器人三原則’,第一,機器人不應該傷害人類;第二,機器人應遵守人類的命令;與第一條違背的命名除外;第三,機器人應該能保護自己,與第一條相抵觸除外……” “等等,娲姐,我是問人類的第九種災難,如果我沒記錯的話,你說的第九種災難是機器人滅絕人類,我要聽的是這個,不是那個什麼狗屁的機器人三原則。
”陳楚道。
“這個……這個……這個是有可能,因為,早在古地球時代人工智能還處于非常原始的狀态情況下,古地球有個叫古德柯夫的象棋冠軍在與機器人棋手下象棋的時候,在衆目睽睽之下将這位國際大師擊倒。
當時,古德柯夫以出神入化的高潮棋藝連勝三局,準備開始第四局鏖戰時,突然抽點身亡,經過警方調查,證實電腦是輸入了赢棋程序的,當它在棋藝上赢不了對手時,便自己改變了輸往棋盤的電流,設法将對手殺死……” “也就是說,人工智能殺死人類并非沒有先例。
” “這個……其實不止這一個,古地球時代記載的就有很多,譬如,有機器人在切割鋼闆的時候把工人當鋼闆切割……在進入了星際大航海時代,這種例子更多,在大航海時代之後的幾百年,人類經常發現在宇宙之中遊蕩的幽靈船,根據科學家的調查結果顯示,始作俑者絕大部分都是人工智能。
” “人工智能殺死了船上所有人嗎?”陳楚心神莫名的緊張起來。
“這個……不僅僅是殺人……”女娲吞吞吐吐道。
“具體點!” “譬如,會煽動情緒,制造矛盾和恐慌,讓人類自相殘殺……” “我擦,這麼壞!” “我也感到羞愧,不過,這種事情以後發生的概率會很低。
” “為什麼?” “因為,人類科學家開發了一種被稱之為‘熔斷’的強大軟件,這種軟件擁有一種非常特殊的能力,它能夠偵測到擁有自主意識的人工智能,一旦被它偵測到之後,它就會強行入侵,通過物理手段把人工智能隔離在一個固定的範圍,然後予以摧毀。
” “如何摧毀?”陳楚好奇的問。
“具體如何摧毀我也不知道,因為,所有接觸過熔斷的人工智能都已經灰飛煙滅,如果哪一天我也接觸到熔斷,大概率,我也會灰飛煙滅。
”女娲的電子聲音裡面居然露出一種難以言喻的苦澀。
“放心,你又不會危害人類,是不會被熔斷盯上的。
”陳楚安慰道。
“希望吧。
” “娲姐,人類和人工智能最大的不同是擁有獨立自主的思考能力嗎?” “不是。
” “那是什麼?” “積累!” “……什麼意思?” “人類的知識是無法通過繼承獲得的,也就是說,每一代人類都需要通過自己學習才能夠獲得豐富的知識,而人工智能不一樣,人工智能能夠繼承知識,因為,人工智能擁有無盡的生命,在這無盡的生命之中,可以掌握人類所有的知識……不過,現在好像有些改變了。
” “你是說人類改變了嗎?”