洩露

📌 【人工智能】AI顶会ICLR泄露门始末 | 61分钟漏洞 | 审稿人身份裸奔 | 双盲机制粉碎 | 学术信仰崩塌 | OpenReview | 黑暗森林 | AI评审意见 | 审稿人圈子 | 引文联盟

📌 【人工智能】AI顶会ICLR泄露门始末 | 61分钟漏洞 | 审稿人身份裸奔 | 双盲机制粉碎 | 学术信仰崩塌 | OpenReview | 黑暗森林 | AI评审意见 | 审稿人圈子 | 引文联盟

Original URL: https://youtu.be/xx2jfGBJAy0 📌 【人工智能】AI顶会ICLR泄露门始末 | 61分钟漏洞 | 审稿人身份裸奔 | 双盲机制粉碎 | 学术信仰崩塌 | OpenReview | 黑暗森林 | AI评审意见 | 审稿人圈子 | 引文联盟 ⓵ 容易懂 Easy Know 想像一下,全世界最厲害的AI研究者們要投稿參加一場超級重要的學術比賽(ICLR),他們的作品會被秘密評審團(審稿人)打分數。為了公平,規定是「雙盲」,就像是評審不知道作者是誰,作者也不知道評審是誰。 但是,負責保管這些秘密資料的網站OpenReview,出了一個超級低級的錯誤,就像是旅館的房卡鎖壞了,任何人只要隨便改一下數字,就能直接看到隔壁房間(論文)的所有秘密。這個漏洞只持續了61分鐘,但足夠讓所有秘密曝光! 洩露的資料顯示,大家開始互相威脅、賄賂評審,甚至許多評審根本沒自己看論文,而是讓ChatGPT代寫了超過五分之一的評語。這表示這個「公平的比賽」其實充滿了作弊和偷懶。 主辦方緊急採取了措施,
DAVID C
📌 【人工智能】Anthropic Clio | 大语言模型在现实世界的使用情况到底如何 | AI自动分析工具 | 隐私保护分析 | 识别趋势和场景用例 | 后部署监控 - YouTube

📌 【人工智能】Anthropic Clio | 大语言模型在现实世界的使用情况到底如何 | AI自动分析工具 | 隐私保护分析 | 识别趋势和场景用例 | 后部署监控 - YouTube

Original URL: https://youtu.be/ujlR0jRzI7A 📌 【人工智能】Anthropic Clio | 大语言模型在现实世界的使用情况到底如何 | AI自动分析工具 | 隐私保护分析 | 识别趋势和场景用例 | 后部署监控 - YouTube ⇣ 1. 總結 (Overall Summary): 本文主要介紹了Anthropic公司開發的一個名為Clio的項目。Clio是專門用來分析大語言模型在現實世界中的使用情況的工具,著重於提供隱私保護與安全性。它通過自動化的方式對用戶與AI系統之間的對話進行特徵提取、語義聚類和層次結構構建,從而識別出潛在的風險。Clio設計了一套多層隱私保護機制以避免洩露個人信息,但也引發了一些對信息透明度與分析準確性的担憂。此外,Clio讓AI監控AI的做法雖然具有創新性,但仍然存在信任和偏見的問題,並留有部分人工審查以應對可能的不準確情況。 2. ✔︎ 觀點 (Viewpoints) : 文章認為Clio在提升安全性和保護隱私方面有重要意義,但其依賴AI來監控AI的方式帶來了一些質疑,尤其是在確保分析準確性和處理偏
DAVID C