AI 生圖就不是真實：這是什麼意思？

大約在一個月前、Google Nano/Banana 生圖模型剛出來不久，當時 LinkedIn 上面出現大量用 prompt 生出來的形象圖，其中頗大部分是 Google 的員工推廣的。這個 prompt 內容長這樣：

Please create a vertical portrait in 1080x1920 format, preserving the subject’s exact facial features.
The image should feature stark, cinematic lighting with high contrast.
Capture the subject from a slightly low, upward-facing angle to emphasize the jawline and neck, evoking a sense of quiet dominance and sculptural elegance.
Use a rich, soft blue background that complements the subject’s eye color, creating a striking contrast with luminous skin tones and a dark wardrobe.

生圖小白如我覺得這個 prompt 蠻厲害的。不過更有趣的是在 LinkedIn 上面看到的一則 Po 文。¹1https://www.linkedin.com/posts/lamuehlke_nanobanana-google-google-activity-7378692592600875008-SRWF

某位 Google 員工用了這個 prompt 重構了一張形象圖，以我個人標準來說形象圖中的人物臉部特徵跟原始參考照片非常接近，明確看得出是同個人，最多就是下巴圓潤一些，以及不知為何 Nano 把捲髮換成直髮。然而，這則 Po 文底下有串非常好笑的留言，先說我有參考 ChatGPT 提供的翻譯，但結果還是按自己想法親自弄出來：

袂使 👎 靠 AI 去『更新』我們的圖片又不真正反映現在的自己，只會讓模糊真實跟造假的界線啦。個人身分/認同（identity）不只是張美圖秀秀，我寧可把 AI 之力拿來解決真正的問題 – —不是來搞數位整形。

大哥，你用 AI 來生你的留言，然後你留言批評用 AI 來反映自己不夠真實 🤣 不過我有抓到你的點啦。

哈哈哈⋯AI 只是重組我的想法而已啦。我給 AI 一個草稿讓它改寫得更漂亮。這就是一個好好使用 AI 的範例囉。

這串對話實在太趣味了，印象非常深刻。剛剛坐捷運路上看到朋友在討論有之前出人像攝影的工作室開始收圖片宣稱用 AI 生形象照，覺得很不以為然，突然回想起這串對話，覺得大有深意，值得把之前瑣碎想到、應該也是拾人牙慧的幾點想法重組起來安頓。

先說我的心證：我自己對於這位留言的仁兄頗不以為然的。撇除掉 mansplaining 的嫌疑、自抬身價與雙標以外，我個人覺得就算我的結論在某些情境可能跟他差不多，不過「用數位生張形象圖就是不真誠表達自己」這個主張，我自己覺得沒有這麼直覺。然而為什麼這位仁兄的可以這麼理所當然的「雙標」呢？拿這件事來講，本意倒不是要批評這位仁兄的姿態有點噁，而是這位仁兄反應的某種價值選擇，讓我聯想到朋友表達「不以為然」時，背後有個共同的預設：

「人類，或者是大多數人，對於表達人類外觀圖像的真實性要求似乎特別高」 – —也就是說雙標是理所當然的，因為人類外觀圖像就是特別重要所以要必須要真實。²2至於攝影工作室使用 AI 是不是一種自我挫敗或毀滅，或者 AI 對於藝術專業的尊重或存續威脅之類的題目，雖然很重要也很有意思，但就不是我這邊想討論的面向了。

我覺得這個預設很有趣。我個人其實大多時候也贊同這個預設，並沒想故作反論主張我不相信的立場。不過或許是因為好辯心態被那位留言仁兄給刺激，覺得「憑什麼用 AI 美化自己的留言內容，就理所當然算得上是真實表現自己、有好好使用 AI，用 AI 生形象圖而且也有忠實保留臉部特徵就算不上真實表現自己、是不好的 AI 使用方式？」我總覺得如果這件事情這麼重要，或許直得一個稍微嚴肅探究一點的答案，而如果答案只是因為「人物圖片比較重要」，這就只是把同個答案換句話說而已 – —至少也要把同義反覆下的弔詭包裝得複雜一點吧（盧曼表示：）。我想知道的是這條線為什麼畫在這裡？背後的事實性或正當性基礎在哪？這條線真的就只是畫在這裡嗎？

那在稍微深入討論之前，我要主張這種預設甚至並不是這篇 po 文作者或者是我朋友所特有的。舉例來說：《詐欺犯罪危害防制條例》第 31 條第一項第四款，要求廣告如果使用「深度偽造技術或人工智慧生成之個人影像」時，網路廣告平臺業者必須要揭露此項資訊。當然這款規定顯而易見的理由是「避免他人利用生成式人工智慧技術偽冒現實生存自然人之身分從事詐騙」，但為什麼「看到好像是真的自然人影像（所以才有偽冒可能）」對人這麼重要，以至於有詐騙的可能？我覺得這是個有趣的線索（雖然過程中可能會稍稍岔題）：

最直觀回答是廣告使用自然人影像需要當事人授權，當事人授權使用背後預設著是當事人對廣告隱含的背書，而立法當下預設 AI 生圖的情境常常不會取得當事人的同意。後者雖然可能是當下常見的 AI 濫用樣態，而立法只是因為這種濫用的修補回應，但考慮到

• 無授權盜用他人照片也可以有詐騙效果（接下來在立法論的問題：為什麼不乾脆要求網路廣告平臺業取得肖像權擁有人之授權證明呢？BTW 至少我在立法過程中沒有聽說過有人討論過這件事，所以可行性問題就算有考量過也沒浮上檯面）；
• 授權使用圖片（極端案例是使用商業圖庫人像照片）未必意味著當事人有意識授權自己影像出現在廣告中產生代言效果 ；
• 現在也是有「授權將本人特徵用 AI 生圖」的作法，也是一個授權使用（甚至可能也明白授權對廣告背書）但與「影像真實性」脫鉤的樣態。（這邊的「影像真實性」純粹只是要說：這個影像是否是「某台相機對當事人拍照所得影像」經編輯後的直接產物。）

大概就會覺得，真的要吹毛求疵講究避免自然人的形象未經同意被濫用於詐騙，「標示使用 AI 生成自然人影像」其實是不足夠的回應。不過我討論這些的本意不是要批判立法粗糙，而是想說這個立法表彰了我前面講的預設：對人類（至少大多數人）來說，看到「很真實」的人類影像真的是很重要的一件事，重要到不加思索就會立法保護，而且對於可以造出「很真實效果」的 AI 技術，人類有反射性的恐懼。

至於為什麼人類會這麼在乎人類影像的「真實性」，我目前只有兩個很粗糙、沒根據、沒有機制解釋的相關猜測，大概就是拾人牙慧。然後本人不是哲學家、精神分析師、心理學家或神經科學家等相關學門出身，所以以下的用語不求嚴謹、純粹只是運用 plain language 的意義。

第一個猜測是：

人類影像對於人的心智過程有某種 heuristics 的效果：看到人的影像（特別是人臉）就可以快速地挑起情緒，無論是信任、認同、焦躁、懷疑、憎恨等等。閱聽眾看到人的影像，在心智中可以將影像對應到一個人，而有一個人就可以想像、預設這個人的性格、習氣跟外觀，然後挑起上述諸種情緒。當然這個與影像連結的人是否現存於世界上、是否有名氣被閱聽眾認識確實也蠻重要的，但最基礎的運作要求是「看起來像個人」，而不是看起來像個動物或傢俱。

第二個猜測需要先做一點鋪陳。我們先列出四種「影像真實性」的情況，權當比較光譜：

• (a) 為了辦護照去巷口證件照機台（好一點：去攝影館）拍的照片；
• (b) po 在 SNS 的網美形象照，修圖程度從簡單調色、用程式降噪去斑，到身體背後的磁磚出現液化效果用太多的扭曲力場不等；
• (c) 因為個人品味關係，花大錢請一個畫家用比林布蘭還戲劇跟 hyperrealistic 的風格畫一張我的肖像畫；
• (d) 用 AI 根據我提供的臉部照片生圖，明確保留臉部特徵。

(a) 這種情景大概毫無疑問會被大部分人承認是「真實表彰個人的影像」，甚至會覺得「真到浮腫到有夠不上相，不想承認」的程度，也甚至被提升到能被用於證件，讓證件產生法律效果以及在日常運用（＝辨識人別）的程度。

(b) 這種情景，聽眾對於「真實性」的評價可能會隨著攝影師的佈局、化妝、或是修圖的狀況而有所不同程度的增減，做太多可能會被說是「這也修太多太假了吧、「是被攝影師跟美圖秀秀重新投胎囉」。但只要這些影像，都是一個攝影師面對一個活人（或兩個可能是同個人）按下相機快門後所得影像的編輯衍生物，那就確保了某種「真實性」（authenticity）。當然真實性跟真誠（genuine）是兩件事。

(c) 這種情景還不是「攝影」，而是用畫家以非機械力方式再現心目中對業主的觀察印象，可能還會被業主或顯或隱的要求扭曲，例如拿破崙就是要畫得高、蔣光頭殺人魔就是要看起來慈祥和藹（？）。當然畫作以及翻拍畫作的照片一定是不能拿來當證件的，但如果我拿來貼在 SNS 上，可能就真實性或真誠程度所獲得的閱聽眾評價，或許程度相當或弱於 (b)，可是，還是高於 (d)。

假如你剛好也同意我上面 (a) – (d) 的光譜排序，那或許可以接受我對於這個光譜嘗試歸結的趨勢，也就是第二個猜測：

人類對於影像真實性的要求，可以部分程度放鬆。放鬆的條件是這個影像的產生過程，需要活人運用勞力活動（labor）加以媒介。有一個活人用勞力媒介，就算稱不上對真實性的擔保，至少也有替代效果。

白話講：攝影至少有攝影者對一個活人按下快門，肖像畫家至少有看到一個活人作畫。可能會因為畫家的畫技、攝影者修圖技術或意念亂搞，但這些亂搞至少都是在攝影者或畫家見證到活人在場之後的衍生結果。

回到原本的題目：「人類，或者是大多數人，對於表達人類外觀圖像的真實性要求似乎特別高」。如果不考慮上述 (a) 情境，證件照片背後有人別辨認的需求（先別歧路亡羊問說人別辨認需求所為何來），那麼我的主張是人類需要對於真實性的 heuristics（猜測一），而且這種需求可以被活人的勞力媒介/在場見證替代（猜測二）。

如果進一步細究拆解猜測二，見證其實也只是一種擔保，未必有效反映那些影像是否 genuine, or faithful representation of the subject，但是 authenticity 就是個有活人在場媒介就成立的方便東西，因為它本身也是一個 heuristics。猜測一跟猜測二的 heuristics，共通處都是在心智活動（不論是意識或想像）當中預設有他人在場，有他人在場就是社會關係的基礎。

也就是說，活人不論是作為對象（猜測一）或投入勞動媒介（猜測二）可以提供 authenticity，而 AI 無法提供，其實就只是在場這麽重要或虛無的東西而已。

好啦我知道上面最後的部分討論的有點隨便。但是為了一個無聊小題目，在腦袋胡亂構思二十分鐘就大概成型的事情，寫出來已經花了好幾個小時，不想再浪費時間了，就先這樣虎頭蛇尾結束這廢文吧。