The Key | 每天的關鍵

GPT-4V 圖片辨識：潛在的安全疑慮，圖片也可以 Prompt Injection 最近小編讀了一些 Matthias Bastian 在 THE DECODER 上所發表的一篇文章，感覺非常有意思。這篇文章詳細分析了 GPT-4—特別是其視覺系統和圖片辨識功能—所面臨的安全漏洞。文章的標題叫做 "To hack GPT-4's vision, all you need is an image with some text on it"，它透露了 GPT-4 和 ChatGPT 在視覺識別安全性方面的缺陷。內文寫得很精彩，有興趣深入了解的朋友可以點進去看看。 問題的關鍵 這篇文章強調，儘管 GPT-4V 的視覺系統和圖片辨識機能通過了嚴格的安全審查，卻仍然可能受到所謂的 "prompt injections" 的影響，然後被輕易地欺騙。這些通常是藏在圖像或文字中的特定指令，會讓 AI 偏離原定的操作目標。這就像魔術師用手法讓你的注意力轉移，AI 也會因此而做出錯誤的回答。 現實生活的影響 這些漏洞在現實世界應用中可能會產生嚴重後果。例如，僱員招聘軟體若過度依賴 GPT-4 或 ChatGPT 的圖片辨識能力，則可能會被有心人士輕易操作，造成錯誤的判斷結果。 電腦的「潛意識」信息 文章引用的 Daniel Feldman 把這種現象稱為電腦的「潛意識」信息。這類攻擊不一定總是成功，而是取決於隱藏文字或指令的確切位置。這突顯出 AI—尤其是 GPT-4 和 ChatGPT—在功能強大和安全脆弱之間的微妙平衡。 OpenAI 的回應 OpenAI 有意識到這一問題，但至今還沒有提出確定的解決方案。不僅是 GPT-4，即使是它的前身，如 GPT-3，也存在相似的安全漏洞。 寫在後面 總而言之，這篇文章為我們預警了一些問題，顯示出在 AI 技術，尤其是在 GPT-4V，ChatGPT 的視覺系統和圖片辨識功能方面，安全性仍然是一個需解決的問題。也希望大家不要濫用與過度依賴 GPT-4V 進行重要判斷，避免過有心人士的操作。 Read more Sydney 的起死回生: 談 Prompt Injection Reddit 超強文章：使用 ChatGPT 的 Custom Instruction 提升回答品質 參考資料 To h...

AI 伺服器的熱挑戰 AI 伺服器雖然是運算高手，但也帶來不小的熱問題。隨著 AI 伺服器越來越強，傳統的風扇散熱方式已經逐漸"功虧一簣"。這不只影響機器效能，也對環境造成壓力。小編試著整理一些文章做了簡介，如果有錯誤還麻煩高手指教刊誤。 液態冷卻：新時代的選擇 據 Forbes 報導，液態冷卻正快速成為 AI 伺服器的新常態。比起傳統風扇，液態冷卻更為高效，有單相和雙相等不同方式。單相冷卻使用一種液態冷卻液吸熱，而不會改變自身狀態。而雙相冷卻則利用液體與蒸氣的變化進行熱交換。 浸液式冷卻：效率的新層次 Equus Compute Solutions 提及的浸液式冷卻是把伺服器零件全部浸入冷卻液中。這方法特別適合需求高的計算機和數據中心。它也有單相和雙相兩種模式，各有特色與用途。 液態冷卻與浸液式冷卻：一較高下 當我們討論冷卻方式時，常常會聚焦在液態冷卻和浸液式冷卻上。CES Corporation 的文章指出，液態冷卻是利用冷卻液透過管道流動，直接冷卻硬體組件。這方式確實有效，但一般適合需求在每架 10 到 15 kW 電力的情境。而浸液式冷卻則是把整組硬體裝置完全浸入一種非導電的液體中，這讓它在需要每架超過 100 kW 的高密度場合更具優勢。液態冷卻的安裝較為簡單且初期投資較低，但浸液式冷卻在能效上表現更佳，特別適合大型數據中心。雖然這兩種方法都有各自的利弊，但浸液式冷卻在未來的 AI Server 中，逐漸展現出它更高的效率和持續性。 直接冷卻芯片 直接冷卻芯片或稱 D2C 是一種直接讓冷卻液接觸熱源如 CPU 或 GPU 的方式。這方法不僅提高散熱效率，尤其適合密集或高負荷的環境。 AI 輔助的熱控制 如 IEEE 的研究所述，AI 也投入到數據中心的熱控制之中。透過 AI 的優化，不僅改進工作流程，還能消除熱點，為熱控制增加了新的效率層次。 寫在後面 AI 伺服器冷卻技術日新月異，液態和浸液式冷卻目前算是主流技術。展望未來，這些冷卻技術將指引我們走向更快速的運算與更環保環境。 參考資料 Heat dissipation in high demand for AI servers   https://www.forbes.com/sites/forbestechcouncil/2023/09/11/ai-liquid-cooling-a...

ChatGPT Custom Instruction 是什麼? ChatGPT 的客製化指令讓我們的可以加入特定偏好或要求，幫助 ChatGPT 更符合我們的的期望。這個功能目前開放給全部的 ChatGPT 的使用者。通過這些特定指令，我們的可以讓 ChatGPT 更貼近我們的使用習慣。 客製化指令的例子 讓 ChatGPT 更貼近我們的的寫作或工作風格 調整 ChatGPT 以配合我們的的程式碼風格 拿到我們的喜歡的格式的回覆 為與 ChatGPT 的交流加上背景，或限制討論的話題 讓 ChatGPT 用簡單易懂的方式回應，不使用太多專業用語 針對各種專業，如企業高管、內容製作者、市場推廣者、新創企業家、地產代理或 HR 設定專屬指令 Reddit 上的熱門 Custom Instruction 討論 小編在 Reddit 討論區 看到一個討論度很高的 Custom Instruction，分段貼出來。小編在原始 custom instruction 下用中文備註，給各位參考。 What would you like ChatGPT to know about you to provide better responses? # About Me - (I put name/age/location/occupation here, but you can drop this whole header if you want.) - (make sure you use `- ` (dash, then space) before each line, but stick to 1-2 lines) 可以加入了名字、年齡、地點和職業等資訊，不過如果你覺得需要，你可以選擇不加。請在每行前面加上 - 記號，但請限制於1-2行內。這邊不要放太多描述，因為作者把所有的 1500 字限制都用了，過多的描述會造成後續字數問題 # My Expectations of Assistant Defer to the user's wishes if they override these expectations: 作者在這邊加上了對於 ChatGPT 的需求，滿聰明的，而不是寫在 How would you like ChatGPT to respond? ## Lan...

揭開未來：Google AI 如何讀懂基因變異 Google 的研究部門 DeepMind 推出了一款名為 AlphaMissense 的 AI 程式，專門用來預測基因變異會否導致疾病。這款程式主要針對一種稱為 "missense" 的基因變異，僅影響基因碼的一個字母。一般人的基因組中就有大約 9,000 這種變異，有的無害，有的則可能引發像囊性纖維化、癌症或影響大腦發育的疾病。經過這款工具的分析，能夠以 90% 的準確率預測出其中 89% 的變異。這個表現比目前其他預測工具還要好，有助於醫學專家更快地確定哪些基因變異是疾病的主因。這款程式還能識別出過去未知與特定疾病相關的基因變異，有助於醫生找到更適合的治療方案。這個 AI 工具其實是 DeepMind 旗下一個名為 AlphaFold 的程式的衍生品，專門用來預測人類蛋白質的三維結構。Google DeepMind 的研究副總裁 Pushmeet Kohli 表示，這一發現再次顯示了 AI 在自然科學領域的影響力。 重要性 最讓人期待的是這款工具擁有廣泛的應用可能性。對於患有慢性或遺傳性疾病的人，這款 AI 可以作為一個早期警示系統。同時，醫學研究人員和醫生也可以利用這款工具，研發更為精準的治療方法或療程，為個人化醫療鋪平道路。 可信度和經驗 這款 AI 經過嚴格的測試和驗證，具有很高的可信度。作為 Google 的子公司，DeepMind 在多個領域都有豐富的AI開發經驗，這為他們在基因變異分析領域的研究提供了額外的權威性。 寫在後面：對未來的影響 AI 與基因學的結合，讓我們看到了一個更精確、更個人化、更有預測性的醫療未來。這可能會改變我們對於疾病的基因層面理解和治療的整個框架，長遠來看，這將會對未來有革命性的影響。 參考資料 Google DeepMind AI tool assesses DNA mutations for harm potential | Genetics | The Guardian   Google DeepMind AI tool assesses DNA mutations for harm potential - OpenTools Newsroom   Google AI tool predicts danger of genetic mutations ...