計算

A collection of 13 posts
📌 100年前,一個小夥兒發現了『破解上帝』的『矩陣』,100年後,谷歌TPU vs 輝達GPU,一場『算力世界大戰』正在進行中,而上帝已然被關入了『矩陣』當中……|自說自話的總裁
谷歌

📌 100年前,一個小夥兒發現了『破解上帝』的『矩陣』,100年後,谷歌TPU vs 輝達GPU,一場『算力世界大戰』正在進行中,而上帝已然被關入了『矩陣』當中……|自說自話的總裁

Original URL: https://youtu.be/_-khWyBTVM4 📌 100年前,一個小夥兒發現了『破解上帝』的『矩陣』,100年後,谷歌TPU vs 輝達GPU,一場『算力世界大戰』正在進行中,而上帝已然被關入了『矩陣』當中……|自說自話的總裁 ⓵ 容易懂 Easy Know 想像一百年前,有個科學家(海森堡)發現,我們沒辦法用眼睛看清楚原子裡的小東西(電子)是怎麼跑的,就像在黑暗中抓蚊子一樣。但他很聰明,決定放棄「看懂」,只專心用表格和數字來「計算」蚊子下一秒最可能在哪裡,這就是「矩陣」黑盒子的開始。 這個計算方法現在成了超級電腦的大腦。現在有兩個科技巨人正在打一場算力大戰:一個是賣超級顯卡(GPU)的「皮衣俠」黃仁勳,他賣的顯卡像軍火一樣貴;
閱讀時間 8 分鐘
📌 谷歌大神|斯坦福演讲|疯狂豪赌:一个“数学上完全错误”的决定,如何引爆了今天的AI狂潮?|算力暴涨100万倍!从斯坦福的一篇论文到Gemini,我们是如何走到今天的?
算力

📌 谷歌大神|斯坦福演讲|疯狂豪赌:一个“数学上完全错误”的决定,如何引爆了今天的AI狂潮?|算力暴涨100万倍!从斯坦福的一篇论文到Gemini,我们是如何走到今天的?

Original URL: https://youtu.be/op5J5NIF1FM 📌 谷歌大神|斯坦福演讲|疯狂豪赌:一个“数学上完全错误”的决定,如何引爆了今天的AI狂潮?|算力暴涨100万倍!从斯坦福的一篇论文到Gemini,我们是如何走到今天的? ⓵ 容易懂 Easy Know 想像一下,AI的世界就像一輛全速衝刺的超級火車,我們總覺得它跑得太快抓不住。但這不是魔法,Google的傑夫迪恩爺爺說,這背後是一個叫做「AI飛輪」的大齒輪。這個飛輪由三個部分組成:數據(燃料)、算法(設計圖)和算力(引擎)。很久以前(1990年),科學家只有設計圖(理論),但電腦只有一點點像「柴火」般的算力,火車根本跑不起來。後來,Google為了讓火車動起來,發明了超強的「法拉利引擎」TPU,它能提供比以前多百萬倍的算力。有了這個強大引擎,火車就能讀懂海量數據,
閱讀時間 9 分鐘
📌 GDP是会骗人的 | 一口气了解GDP
國家

📌 GDP是会骗人的 | 一口气了解GDP

Original URL: https://www.youtube.com/watch?v=P-NmMX9rlYQ 📌 GDP是会骗人的 | 一口气了解GDP 【容易懂 Easy Know】 想像一下,一個國家的經濟就像一個大廚房。每年這個廚房裡生產了多少新菜(商品)和提供了多少服務(像是理髮或看醫生),把它們全部加起來的總價值,就是這個國家的「國內生產毛額」,簡稱GDP。這就像在看這個廚房一年賺了多少錢。不過,這個數字其實沒那麼簡單。有時候,同樣一個國家的GDP,你可能會看到好幾種不同的算法和結果,這就像看著獅子橋上的獅子,每個看起來都不太一樣!這是因為要算清楚一個大廚房的總收入很難,有些東西算進去,有些不算。比如,你媽媽在家裡幫你煮飯就不算,因為沒有收錢;但如果你去餐廳買一盤蛋炒番茄,就算進去了。而且,如果你想比較不同國家的廚房誰比較會賺錢,或者自己國家今年和去年的表現,還得考慮通貨膨脹(東西變貴了)和匯率(錢的價值變了),甚至不同國家物價不同(在台灣吃一碗麵跟在美國吃一碗麵價錢差很多)
閱讀時間 9 分鐘
📌 「電腦」由它開始!19世紀不吃電的「電腦」如何運作?這世界差點走向蒸氣龐克?【晶片崛起 EP1】THE RISE OF CHIPS EP1
巴貝奇

📌 「電腦」由它開始!19世紀不吃電的「電腦」如何運作?這世界差點走向蒸氣龐克?【晶片崛起 EP1】THE RISE OF CHIPS EP1

Original URL: https://www.youtube.com/watch?v=ONfntZrrwtM 📌 「電腦」由它開始!19世紀不吃電的「電腦」如何運作?這世界差點走向蒸氣龐克?【晶片崛起 EP1】THE RISE OF CHIPS EP1 ⓵ 容易懂 Easy Know 想像一下,如果我們身邊的電話和電腦突然都不見了!在很久很久以前,連電都還不普遍,工廠都用蒸氣機來運作的時代,有位很聰明的數學家查爾斯·巴貝奇,他被大家叫做「電腦之父」。他發現大家算數學的時候常常算錯,特別是那種一大本的數學對照表,每次抄寫或計算都會出錯。所以他夢想做一台超級厲害的「差分機」,這台機器就像一個巨大的齒輪玩具,可以自動把很複雜的數學題目,一步一步變成簡單的加法來算,這樣就不會有人算錯了!雖然這台機器實在太巨大、太貴,而且當時的工廠也沒辦法做出那麼精密的零件,所以它沒有真的被完成。但巴貝奇的想法,卻為我們現在的電腦打下了基礎,讓電腦能幫助我們處理各種事情,
閱讀時間 8 分鐘
📌 【鳳梨店長-課後班】#電動升降桌 是智商稅?傳統書桌是健康殺手?別再用 75cm 的桌子! 別再用阿公級書桌害自己!
身高

📌 【鳳梨店長-課後班】#電動升降桌 是智商稅?傳統書桌是健康殺手?別再用 75cm 的桌子! 別再用阿公級書桌害自己!

Original URL: https://youtu.be/8OgXuOsS1pQ 📌 【鳳梨店長-課後班】#電動升降桌 是智商稅?傳統書桌是健康殺手?別再用 75cm 的桌子! 別再用阿公級書桌害自己! ⓵ 【容易懂 Easy Know】:想像一下,你的書桌就像一匹馬,太高或太矮都會讓你騎得很不舒服。以前的桌子是設計來寫字的,不是打電腦的,所以常常太高。要讓打電腦的姿勢舒服,就要找到適合你的桌子高度,就像量身訂做一樣。簡單的方法是,量一下你的身高,除以一個數字,再加一點點,就是你的桌子該有多高了。然後,椅子也要調整好,讓你的腳可以平平地踩在地上,背挺直靠在椅背上。這樣就像找到一匹適合你的馬,騎起來才會輕鬆又舒服,不會腰酸背痛喔! --- ⓶ 【總結 Overall Summary】:這部影片主要探討了如何正確調整電腦桌及座椅的高度,以避免長時間工作造成的腰痠背痛等問題。影片指出,市面上常見的75公分電腦桌高度,是早期為書寫設計而非針對電腦使用,因此對許多人來說過高。錯誤的高度會導致使用者為了遷就桌面,不自覺地將椅子調高,
閱讀時間 5 分鐘
📌 【人工智能】大语言模型内部是如何运行的 | Anthropic两篇论文揭示部分原理 | 破解黑箱 | 电路追踪 | 跨层转码器 | 多语言能力 | 诗歌创作 | 数学计算 | 推理 | 幻觉 | 越狱 - YouTube
語言

📌 【人工智能】大语言模型内部是如何运行的 | Anthropic两篇论文揭示部分原理 | 破解黑箱 | 电路追踪 | 跨层转码器 | 多语言能力 | 诗歌创作 | 数学计算 | 推理 | 幻觉 | 越狱 - YouTube

Original URL: https://www.youtube.com/watch?v=25n0NkwIEbQ 📌 【人工智能】大语言模型内部是如何运行的 | Anthropic两篇论文揭示部分原理 | 破解黑箱 | 电路追踪 | 跨层转码器 | 多语言能力 | 诗歌创作 | 数学计算 | 推理 | 幻觉 | 越狱 - YouTube ❶ 總結(Overall Summary): Anthropic團隊近期針對大型語言模型(LLM)Claude進行了一項突破性的研究,如同對AI模型的大腦進行了一次深度核磁掃描,旨在揭示其內部運作機制。這項研究借鑒神經科學的思路,開發出一種“AI顯微鏡”,透過「電路追蹤」等創新方法,觀察模型內部的信息流動和活動模式。研究團隊發布了兩篇重要論文,分別探討了如何構建可解釋的替代模型來揭示語言模型的計算圖,以及深入分析Claude 3.5 Haiku在多種任務情境下的表現。研究發現,Claude在多語言處理、詩歌創作、數學計算和推理等方面展現出複雜且獨特的運作方式。例如,Claude在多語言處理方面表現出跨語言共享的特徵,顯示其具備一種跨語言的“
閱讀時間 4 分鐘
📌 一个不受牛顿定律限制的新世界:科幻经典《莱式秘境》 - YouTube
秘境

📌 一个不受牛顿定律限制的新世界:科幻经典《莱式秘境》 - YouTube

Original URL: https://youtu.be/XOwF1xpOrtA 📌 一个不受牛顿定律限制的新世界:科幻经典《莱式秘境》 - YouTube ❶ 總結(Overall Summary): 這篇文章講述了一個科幻故事,主角艾森為了尋找失蹤的好友李太一,意外捲入了一個名為「來世秘境」的神秘組織。該組織以萊布尼茨的秘傳哲學為基礎,試圖建立一個完全由計算機控制的世界,挑戰我們所熟知的由牛頓定律支配的現實。故事穿梭於現代與17世紀,描繪了萊布尼茨在世時的掙扎與追求,他試圖將二進制與計算機結合,預見了一個由計算機主導的未來。李太一和「來世秘境」的科學家們深信,透過強大的計算能力,特別是利用黑洞計算機,他們可以揭示宇宙的奧秘,甚至成為新的「造物主」。艾森對這種瘋狂的想法感到難以接受,認為李太一已經走火入魔。故事最終以安全部隊突襲「來世秘境」作結,留下了對科技倫理、人類自由以及現實本質的深刻思考。萊布尼茨的夢想,在數個世紀之後,以一種扭曲的形式在「來世秘境」中實現,但同時也引發了關於理性、情感和人類價值的深刻疑問。故事也暗示了科技發展可能帶來的潛在危險,以及人類在追求知識與
閱讀時間 4 分鐘
📌 【人工智能】HuggingFace发布LLM超大规模实战手册 | 200页报告解读 | 4000个Scaling实验 | 激活值重计算 | 梯度累积 | 数据并行 | 张量和序列并行 | 流水线并行 - YouTube
并行

📌 【人工智能】HuggingFace发布LLM超大规模实战手册 | 200页报告解读 | 4000个Scaling实验 | 激活值重计算 | 梯度累积 | 数据并行 | 张量和序列并行 | 流水线并行 - YouTube

Original URL: https://youtu.be/MmQycrDLZ3U 📌 【人工智能】HuggingFace发布LLM超大规模实战手册 | 200页报告解读 | 4000个Scaling实验 | 激活值重计算 | 梯度累积 | 数据并行 | 张量和序列并行 | 流水线并行 - YouTube 好的,這是根據您提供的文本總結出的五個部分: ❶ **總結(Overall Summary)**: Hugging Face 近期發布了一份詳盡的「超大規模實ாதன手册」,旨在指導如何在 GPU 集群上高效訓練大型語言模型(LLM)。這份手冊基於在多達 512 個 GPU 上進行的 4000 多次擴展實驗,涵蓋了從基本原理到實際操作的各個方面,對於深入了解大模型訓練的人來說,是一份極具價值的參考資料。 Hugging Face 的共同創辦人兼 CEO 克萊門特·德朗格(Clement Delangue)表示,他希望通過這份手冊推動
閱讀時間 6 分鐘
📌 【人工智能】DeepSeek开源周六天内容全盘点 | FlashMLA | DeepEP | DeepGEMM | DualPipe | EPLB | 3FS文件系统 | V3/R1成本大揭秘 - YouTube
開源

📌 【人工智能】DeepSeek开源周六天内容全盘点 | FlashMLA | DeepEP | DeepGEMM | DualPipe | EPLB | 3FS文件系统 | V3/R1成本大揭秘 - YouTube

Original URL: https://www.youtube.com/watch?v=deZjgTAkzoc 📌 【人工智能】DeepSeek开源周六天内容全盘点 | FlashMLA | DeepEP | DeepGEMM | DualPipe | EPLB | 3FS文件系统 | V3/R1成本大揭秘 - YouTube 好的,以下是針對您提供的文本內容,進行五個部分的總結,並以繁體中文呈現: ❶ **總結 (Overall Summary)**: DeepSeek 在一周內密集開源多個 AI 領域的關鍵技術與工具,涵蓋計算、通訊、儲存等面向,旨在提升大語言模型的訓練與推理效率,並降低成本。 首先,DeepSeek 開源了 FlashMLA,這是一個針對 NVIDIA Hopper GPU 優化的多頭潛在注意力(MLA)解碼內核,能有效處理可變長度序列,提升推理效率,尤其適用於長文本分析和即時對話場景。
閱讀時間 5 分鐘
📌 亲手帮忙装了台量子计算机,量子时代要来了吗? - YouTube
量子

📌 亲手帮忙装了台量子计算机,量子时代要来了吗? - YouTube

Original URL: https://www.youtube.com/watch?v=5DMVAqQ-dd8&t=1481s 📌 亲手帮忙装了台量子计算机,量子时代要来了吗? - YouTube ⇣ 好的,我將按照您的要求,將提供的文本總結為五個部分,並以繁體中文呈現: ❶ **總結 (Overall Summary)**: 這段影片深入探討了量子計算的現況、挑戰與未來潛力,並透過實地走訪矽谷的量子計算實驗室,以及與業界專家的訪談,為觀眾揭開這項神秘科技的面紗。影片首先解釋了量子計算的基本原理,包括量子位元、疊加態和糾纏等概念,並以生動的比喻(如旋轉的硬幣、魔術手套)來幫助觀眾理解。 接著,影片回顧了2024年末至2025年初,科技巨頭(Google、Nvidia、Meta、Microsoft)在量子計算領域的激烈競爭與觀點分歧,特別聚焦於Google發布的Velo量子芯片。Velo的突破性在於,它首次實現了「低於閾值」的量子糾錯,證明了隨著量子比特數量的增加,錯誤率反而能夠降低,
閱讀時間 6 分鐘
📌 如何知道一个大模型在推理和训练时需要多少显存? - YouTube
計算

📌 如何知道一个大模型在推理和训练时需要多少显存? - YouTube

Original URL: https://youtu.be/Z9eV9mbB6uY 📌 如何知道一个大模型在推理和训练时需要多少显存? - YouTube ⇣ 好的,這是一個關於AI模型顯存計算工具的總結,我會按照你的要求分成五個部分呈現: **❶ 總結 (Overall Summary)** 這段影片主要介紹了一個名為 `accelerate estimate memory` 的工具,這個工具能幫助開發者預估大型 AI 模型在運行或訓練時所需的 GPU 顯存。該工具由 Hugging Face 的 accelerate 開發庫提供,它不會實際下載模型參數,而是根據模型的元數據進行計算,因此可以在沒有 GPU 的環境下使用。影片展示了兩種使用方式:透過網頁版和在本地機器安裝使用。網頁版使用簡單,直接輸入模型名稱和選擇數據類型即可計算,但對非 Hugging Face 原生支持的模型,則需要在本地安裝並執行特定指令。影片中以 Mistral 7B 和千問 1.5
閱讀時間 4 分鐘
📌 大海上能不能看出地球是圆的?航海趣闻解迷 - YouTube
地球

📌 大海上能不能看出地球是圆的?航海趣闻解迷 - YouTube

Original URL: https://youtu.be/vQyEQh-RJYY 📌 大海上能不能看出地球是圆的?航海趣闻解迷 - YouTube ⇣ 1. 總結 (Overall Summary): 這篇文章描繪了一段航行白令海的經歷,因一場風暴而被迫改變航線,船長帶領船員避風並分析海面真實風速,與此同時討論了捕蟹的方法和地球曲率的觀察。文中介紹了如何用非專業工具臨時捕捉螃蟹的技巧,並試圖理解在海上肉眼觀察地球曲率的挑戰。最後,文章還分享了航行過程中遇到的挑戰和技巧,例如計算兩艘船初次能夠相互看見的距離及風速和風向的計算方法。 2. ✔︎ 觀點 (Viewpoints) : 看法中提到避風繞行的決策和高成本航行,以及地球曲率難以用肉眼辨識的觀點。作者認為行經白令海是難得的經歷,還通過專業知識展示航行技術的應用。我認為,作者提供了有趣的航行背景知識和實用的捕蟹技巧,同時也引發人們對自然現象的思考。 3. ✔︎ 摘要 (Abstract) : - ⚓️ 被迫經過白令海以避免風暴🌬️ - 🦀 簡介捕捉帝王蟹的非專業方法 - 🌊 用羅金花計算真風風速與方向 - 🌎
閱讀時間 2 分鐘
📌 Mamba凭什么能颠覆Transformer在AI圈子的统治地位? - YouTube
計算

📌 Mamba凭什么能颠覆Transformer在AI圈子的统治地位? - YouTube

Original URL: https://youtu.be/QUpoCXUDfjc 📌 Mamba凭什么能颠覆Transformer在AI圈子的统治地位? - YouTube ⇣ 1. 總結 (Overall Summary): 本文介紹了當前廣泛使用於AI的Transformer架構的問題及其可能替代方案。Transformer雖然高效,但存在計算冗餘和複雜性問題。2023年推出的新架構Mamba,旨在通過模仿循環神經網絡(RNN)的特點改進這些缺陷。Mamba通過類似卷積的機制以及動態更新的矩陣機制提升了處理速度和效率,但在並行計算方面仍有挑戰。然而,Mamba展現了新的可能性,即未來AI架構可能會融合不同特點的技術,形成更強大的解決方案。 2. ✔︎ 觀點 (Viewpoints) : 文章指出了Transformer的計算冗餘問題,並提出Mamba作為可能的解決方案。Mamba通過結合不同機制,試圖改善計算效率,這對推理速度的提升具有顯著效果。我認為Mamba的出現代表了一種創新的思路,也反映了AI進一步的發展空間,將來AI技術可能不單單依賴於一種架構,而是多種架
閱讀時間 3 分鐘