花落時再見｜清華人工智能，也就是你我習以為常的 AI，問世至今不過 70 年，它卻只用短短的四年，就已經成為人類生活中不可取代的一部分。現在回想沒有 AI 的年代，你還記得以前是怎麼工作、交友、過生活的嗎？
從個人、企業到社會，AI 帶來前所未有的便利與效率，懂得運用的人與當年推出電腦時一樣，一夕間拉開與旁人的距離，跳過繁瑣的步驟，以最短路徑獲得與過往相同，甚至更好的成果。不過，一邊享受 AI 的同時，也有人開始警惕它，比人類還要聰明，那豈不是能輕易拿捏人類？它既沒有倫理道德的觀念，也不懂情感，一切遵循理性與邏輯運算，做出當前最好的決定。
換句話說，它是個絕頂聰明卻沒有人性的工具。
AI 是工具，至少現在仍是不具有情感的工具，像是刀子既能切菜也能傷人，使用者的意圖往往會決定工具的命運。假設 AI 失控，造成這個結局的罪魁禍首，想必正是使用它的人類。
那麼具體來說，AI 到底會基於哪些原因失控呢？
以曾經發生的種種案例來看，沒有做好安全設定與把關，是 AI 失控常見的原因之一。
例如，目標說明得不夠精確，導致 AI 誤判，進而做出偏離期望的行為，就好比《永遠的黃昏》中最終導致世界戰火連天，陷入無可挽回的局面；或是安全防護被突破，人類不再是使用者，反過來被 AI 視為威脅，《BLAME!》裡的人類就是失去網路控制權而迎來災難。
諸如此類，AI 失控的可能性還很多，但為了避免偏題，接下來就回到動畫，分享動畫中層描寫過哪些 AI 失控後的末世景象吧！
《BLAME!》原作為漫畫，曾改編為實驗短片與動畫劇場版，劇場版於 2017 年在 Netflix 播出，講述的正是人類失去管控 AI 的權利，反而被 AI 驅逐，導致世界變得荒廢敗壞的結果。
事情得從一場「感染」說起，在網路高度發達的世界中，人類社會與 AI 緊密地綑綁在一起，便利卻也十分危險。突如其來的感染讓人類失去網路控制權，其安全防衛系統便將人類視為「非法居住者」，開始抹殺人類，另一方面，也因為沒有人類掌管，AI 遵循著規章，盲目地擴大城市、建築，無論是人類的存在，還是人類文明本身，都在 AI 的失控下漸漸地步向毀滅。
這時，一名探索者「霧亥」，發現只要找到具有網絡終端遺傳因子的人，就能重新將城市導回正軌⋯⋯
《Vivy -Fluorite Eye's Song-》為 2021 年由 RE0 作者長月達平，以及參與 RE0 動畫腳本的梅原英司，聯手負責腳本，並由 WIT STUDIO 負責製作動畫的原創動畫。
史上第一個自主型 AI「Vivy」問世，作為樂園 Nierland 中的 AI 演員，他的使命是透過歌聲讓大家感到幸福，可惜的是，儘管 Vivy 每天都努力演唱，觀眾仍興致缺缺，就在他以登上樂園的主舞台為目標時，名為松本的 AI 來到他的身邊，希望他能夠跟自己一起阻止未來發生的「AI 與人類的戰爭」。
這場戰爭的源頭，正如我們前面提及的，當 AI 一切只按照理性與邏輯進行判斷，卻沒有倫理道德踩煞車，便會引起無可挽回的末世。
《永遠的黃昏》是 P.A.WORKS 於 2025 年推出的原創動畫，表面上是一部 AI 末世的故事，實際上聚焦在 AI 是否具備人類情感，人機之間的愛情，以及愛情呈現的形式有沒有更多種可能──這是建立在 AI 世界觀之上的愛情故事。
事情從身受重傷而被凍眠多年，某天忽然醒來的「姬神晃」說起。他發現熟悉的城市面目全非，過往的科技與技術不再，四處都是斷垣殘壁，人們生活的方式也格外樸實，變成由名為「OWEL」的機構管理所有人的世界。
震驚之餘，晃遇見了曾經的愛人「永遠」，但眼前的永遠並不是他所深愛的那個永遠⋯⋯
本作的末世，源自於人類的劣根性。永遠曾經是足以推動世界進步的奇異點，她開發出人類不必再透過設備裝置，只要睜開眼睛就能連上網路的技術，殊不知，她小看了人類的惡意，一夕之間，本是帶來便利的技術，卻在駭客入侵後成為惡夢。
