【Reading Notes】（6）Favorite Articles from 2023

1、January

1. 马斯克疯狂省钱：断供厕纸，辞退保洁，退租办公室（2023-01-01）

   • znZroBmjTwoEumuU5Y88Xg
   • 

2. 回顾2022，那些令人印象深刻的AI突破（2023-01-03）

   • S2UqCgJ4hwDSPJjuckuBwQ
   • 
   • 一幅图胜过千言万语（虽然预训练语言模型已经取得了惊人的成就，但是它们并不像视觉图片和视频那样直观）
   • “The dogs bark, and the caravan moves on”
   • 虽然狗吠声音不止，但是商队一直前进。

3. 这可能是中国最"恨"地铁的高校，甚至写了篇论文反对地铁经过…（2023-01-04）

   • 3grQ6YHgpMrXATpp-q1KVQ
   • 
   • 4号线开通时，北大有价值11亿元的精密仪器，其中4亿元的仪器受到影响。原因很简单——交通微振动。
   • 最后大家采取了一个折中方案，4号线经过北大的789米轨道段，将采用世界上最先进的轨道减振技术，也就是在钢轨下铺设钢弹簧浮置板。最后北大做了妥协，这才有了后来的【北京大学东门站】。
   • 
   • 没想到一个小小的振动，也能引起如此大的漩涡，这可能就是"地铁蝴蝶效应"吧~

4. 为什么 B 站的弹幕可以不挡人物？（2023-01-06）

   • eG9lMh8RTGZzSER44ISiYg

   • 

   • 

   • B 站的这一效果是“AI 识别生成遮罩 + CSS 前端渲染”的组合拳。AI 负责在后台生成人物轮廓图，前端通过 CSS Mask 实现无性能压力的视觉裁剪，最终达成了“弹幕智能避让”的流畅体验。

5. 奥比中光微软英伟达联合研发的新一代3D相机Femto Mega正式量产（2023-01-09）

   • 7gO70xSO1xkRfB75dqHATA
   • 量产新一代iToF相机
   • 内置英伟达Jetson Nano算力平台

6. 40+ 目标检测网络架构大盘点！从基础架构 ResNet 到最强检测器 Yolov7 再到最新部署神器 GhostNetV2（2023-01-10）

   • YQd0bTZnj4pK_tTknp0Kuw
   • DAMO-YOLO 是阿里达摩院在2022年11月份提出的一个兼顾速度与精度的目标检测框架，其效果超越了目前的一众YOLO系列方法，在实现 SOTA 的同时，保持了很高的推理速度。

7. 如何使用 Python比较两张图像并获得准确度？（2023-01-11）

   • rcKSyPLbD3ODb-sLVIK4nA
   • 
   • 
   • 基于人脸识别技术、用于判断两张人像是否为同一人并量化其相似度的 Python 实现方案。
   • 128 维人脸编码，然后使用 face_recognition.compare_faces()函数进行比较 True or not

8. B站up主用AI分析，跨年演唱会上这些歌手假唱了（2023-01-14）

   • NynsXR4a14V-bIEYxP_AMA
   • 1 月 7 日，B 站 Up 主「码农高天」，一位在微软工作的程序员通过程序分析了跨年演唱会上歌手的音准，看看谁在跑调，顺便还发现了有些疑似假唱的人。
   • 将歌曲的自然音阶划线加到图上，线对应的频率就是所谓的准确发音。
   • 
   • 
   • 音准完美无法100%断定就是"假唱"，因为它也可能是现场真唱后经过后期修音的结果。
   • 

9. 网传韦东奕不适合教书离职北大，学校首次回应！（2023-01-13）

   • gJ0cWxYdDPot7mCM5sssRA
   • 另据红星新闻报道，北京大学数学科学学院院长陈大岳称，网传韦东奕离职的消息为假，“没这回事。”
   • 韦东奕1991年出生在一个高级知识分子家庭，父母都是教授， 身为数学系教授的父亲，更是对他影响深远，如今对数学的热爱，主要来自父亲对他的影响。

2、February

1. 「深度学习中知识蒸馏」研究综述（2023-02-06）

   • dHA2EvUCz8-vZkbqHKIBqQ
   • 
   • 应用中的挑战
   • 模型问题．考虑深层模型和浅层模型之间的容量差距，选择相匹配的教师-学生模型
   • 成本问题．模型训练过程对超参数较为敏感以及对损失函数依赖较大，而相关原因很难用原理去解 释，需要大量的实验，因而模型的试错成本相对较高．
   • 可解释性不足．
   • 知识蒸馏教师学生模型结构流程图
   • 
   • 
   • 不同知识传递形式下的蒸馏方法的形式化表示
   • 
   • 标签知识一般指在模型最后输出的logits概率分布中的软化目标信息；
   • 中间层知识一般是在网络中间层输出的特征图中表达的高层次信息；
   • 参数知识是训练好的教师模型中存储的参数信息；
   • 结构化知识通常是考虑多个样本之间或单个样本上下文的相互关系；
   • 图表示知识一般是将特征向量映射至图结构来表示其中的关系，以满足非结构化数据表示的学习需求
   • 
   • 
   • 学生模型基于预训练好的、参数固定的教师模型进行蒸馏学习被称为离线蒸馏
   • 教师和学生模型同时参与训练和参数更新的模式则称为在线蒸馏
   • 如果学生模型不依赖于外在模型而是利用自身信息进行蒸馏学习，则被称为自蒸馏学习
   • 有多个模型参与的蒸馏称为多模型蒸馏
   • 不使用任何已知数据集的情况下实现蒸馏，这类统称为零样本蒸馏（又称为无数据蒸馏）
   • 出于一些隐私保护等目的，教师模型可以享有一些特权信息而学生模型无法访问，在这种约束下，形成特权蒸馏学习
   • 
   • 目前，应用知识蒸馏的视觉研究主要集中在视觉检测和视觉分类上．视觉检测主要有目标检测、人脸识别、行人检测、姿势检测；而视觉分类的研究热点主要是语义分割
   • 结合知识蒸馏较为广泛的NLP任务主要有机器翻译（Neural Machine Translation, N MT），问答系统（Question Answer System, QAS）等领域．BERT 模型
   • 目前关于推荐系统和知识蒸馏的工作还相对较少
   • Transformer主要使用方式包括：（1）编码器（例如用于分类），（2）解码器（例如用于语言建模）和（3）编码器-解码器（例如用于机器翻译）。
   • 

2. AI正在让很多行业的红利消失（2023-02-07）

   • 3neK3b2N4OTGx__PtW3O8Q
   • 但我认为更本质的消失，是钱的消失，也就是利润空间的消失。
   • （1）翻译
   • 人工翻译整个行业被AI取代，和一部分人工翻译暂时屹立不倒，两者毫无矛盾。
   • 实际上AI取代的方式是：先把一个行业的市场切割成10%的高端市场和90%的低端市场，然后逐步压缩低端市场的利润空间，把这个市场的从业者逼到无利可图。一开始大家少赚点还能活，到后来实在卷不动了、纷纷离场，然后AI就占领了这个市场。
   • 只要AI的技术继续发展下去，剩下那10%，又会被进一步切割成10%的高端市场+90%的低端市场，然后再次循环。
   • （2）画图
   • 
   • 就像一部电影拍得好，我们会归功于导演，却不会归功于摄像机一样。
   • 其实在我看来，diffusion模型的最大意义，不是在技术上或艺术上取代人类，而是剥夺了乙方的议价权。
   • （3）编程
   • 所以现在AI的代码补全的前沿，已经变成了：给AI一段描述需求的文字，让AI"补完"能实现这个需求的所有代码。
   • 

3. 工程与产品的胜利，深度剖析ChatGPT和聪明地设计基础架构（2023-02-08）

   • 8P2qpre-bevMNyvuwqHgfQ
   • 计算机领域有一个短语叫做 human in the loop，将一篇科研文章变成一个prototype，然后再将用户的体验、数据的回流、标注、再训练这个闭环做得非常精准，ChatGPT 在这一个领域当中体现出了高超的工程能力。
   • 今天 ChatGPT 就是助手， 当内容创作者能够花更少的时间做重复劳动的时候，创新会变得更多 - 这是历史上多次证明的。
   • The biggest lesson that can be read from 70 years of AI research is that general methods that leverage computation are ultimately the most effective, and by a large margin.
   • 
   • 短期：加入人类知识的方法可能更快见效；长期：一旦算力提升，纯靠计算+通用方法的系统会大幅超越精心设计的"聪明"系统。

4. 深入探讨：视觉的目的是什么？（2023-02-19）

   • _HDCgpl33WPPMjgqxStTYQ
   • 大家好，我是周纵苇，现在是亚利桑那州立大学的博士生，再过几个月我就毕业了，今天很高兴在这里和大家聊一聊计算机视觉。
   • 预判
   • Yann Lecun有一个非常经典的例子，视频中一只铅笔笔尖朝下竖直放着，预测下一时间，我们都知道铅笔会因为重力倒下，但是具体往哪个放下倒是一个随机的问题，并不能用原数据来监督学习。
   • 
   • 对比学习，除了对比出不同点，也应该同时发现相似处。
   • 视觉的目的是什么？刚刚总结了两大块主流任务，预判与分辨。
   • 
   • 医学影像这个独特的优势和自然语言非常的类似。所以我有理由相信在医学影像处理中的自监督学习也可以得到像BERT一样很猛的预训练模型，而不依赖于人工标签。
   • 

5. Anchor-Free目标检测器EdgeYOLO：精度和速度完美超越YOLOX、v4、v5、v6（2023-02-20）

   • SbrcYSxeS91EYX4e1NyrDg
   • https://github.com/LSH9832/edgeyolo
   • Liu S, Zha J, Sun J, et al. EdgeYOLO: an edge-real-time object detector[C]//2023 42nd Chinese Control Conference (CCC). IEEE, 2023: 7507-7512.
   • https://arxiv.org/pdf/2302.07483
   • 改进，数据增广方式，head（v7的），loss
   • 
   • 

6. 不写代码，拿百万年薪！ChatGPT提示工程或造就15亿码农大军（2023-02-27）

   • K1t4ZI1hB1zlxM-uGq6ldQ
   • ChatGPT爆火之后，带火了一项「网红」新职业——提示工程师。去年12月，一位名叫Riley Goodside的小哥瞬间红遍全网，只因他的工作太梦幻了——不用写代码，跟ChatGPT唠唠嗑，就能年入百万。
   • 在Scale AI CEO看来，AI大模型可以被视为一种新型计算机，而「提示工程师」，就相当于给它编程的程序员。 如果能通过提示工程找出合适的提示词，就会激发AI的最大潜力。
   • 但当时，坊间不乏质疑声，比如英伟达AI科学家、李飞飞高徒范麟熙就曾表示：「提示工程师」这份职业，可能很快就会消失。因为这称不上是一份「真正的工作」，而是一个bug……
   • 
   • 「我做了20年的软件工程师，20年里一直在写代码，让计算机完全按照我的指令去做。而在提示工程中，我们甚至不知道自己能得到什么，连构建语言模型的人，都无法告诉我们它要做什么。」
   • 还有一些prompt创作者，在PromptBase上出售自己的prompt。买家可以看到AI生成的艺术品，然后花钱购买prompt。
   • 不过，Goodside也指出，在一些AI圈子里，提示工程很快就变成了一个贬义词，也就是一种「过度依赖技巧的狡猾的修补形式」。

7. ChatGPT一枪打服谷歌AI人才！情人节组团加盟OpenAI（2023-02-15）

   • j7WwdUdAIeXnHCysZwBjcQ
   • deepmind->openAI

8. ChatGPT遭港大「封杀」：罪同论文剽窃抄袭，使用须报备过审（2023-02-19）

   • w9A3WY3JQ_OBTnIeMINMsQ
   • 港大也成为国内首家对ChatGPT进行明文规定的高校。
   • 而"反ChatGPT作弊神器"，无论是官方出品的鉴别器，还是斯坦佛大学的DetectGPT、华人小哥出品的GPTZeroX，都不能完全保证没有漏网之鱼。

9. 谷歌大模型团队并入DeepMind！誓要赶上ChatGPT进度（2023-02-26）

   • jg0tiITH3yAa2TgdtZX7yg
   • 为应对ChatGPT，谷歌在大模型方面的动作还在继续。其旗下专注语言大模型领域的"蓝移团队"（Blueshift Team）宣布，正式加入DeepMind，旨在共同提升LLM能力！
   • 蓝移团队曾和MIT的科学家一起，通过训练大模型学会程序员debug时"打断点"的方式，就能让模型读代码的能力大幅提升。
   • 总而言之，谷歌虽然在 Bard 上栽了跟头，但也没把鸡蛋放在一个篮子里。接下来它在大模型上还有哪些新动作？还很有看头。

10. 学习ChatGPT，AI绘画引入人类反馈会怎样？（2023-02-27）

    • zwSqH6-XYQJvVjD64v6Leg
    • 本文中谷歌研究院和加州伯克利的研究人员在文本到图像模型中引入人类反馈，微调后的模型生成见过和未见过对象的效果得到了显著提升。
    • 显著提高了图像 - 文本对齐
    • 

11. 没有这些，别妄谈做ChatGPT了（2023-02-28）

    • q6aoE7-pD0Uac1sCbKwPhg
    • 更何况，2018年BERT（large 3.4亿，比 ChatGPT——1750亿——小了3个数量级）发布的时候，模型参数、训练代码是全面开源的，训练数据BookCorpus和Wikipedia也非常容易获取。在这种情况下，国内各大厂训练出内部版本的BERT模型，也经历了差不多半年的摸索时间。在此期间，算力就位、训练精度优化、训练性能优化、底层框架支持、训练策略优化、数据策略优化等都有不少的坑要趟。
    • 如今 ChatGPT 既没有公开代码，也没有公开训练数据，更没有公开模型参数，甚至都没有公开前置模型的模型参数，模型的体量还比BERT大了3个数量级。
    • AI的表现并非随着模型规模增加而线性增加，而是在参数规模超过特定临界值后显著提升，甚至涌现出小模型不具备的能力。 比如论文表明，模型的规模至少要达到620亿参数量后，才可能训练出来思维链（Chain-of-Thought，CoT）能力。
    • 
    • 
    • 

3、March

1. 大模型111人：谷歌和OpenAI的人才战争（2023-03-06）
   • VTeIZM9Zi9hc65z-4b_DVg
   • The battle of AGI never ends！
2. 清华系ChatGPT发布！唐杰团队打造，专对中文优化，还能把握最新新闻动态（2023-03-18）
   • ZUiybuj73cgBIYDM90aE3Q
   • 终于，清华大学唐杰团队也出手了。就在GPT4发布的同一天，唐教授在微博宣布：基于千亿参数大模型的对话机器人ChatGLM，现在开启邀请制内测。
   • 看起来，写博客提纲、创作剧本、解数学题、写代码，甚至是扮演高冷御姐，它都拿捏的死死的：
3. 老罗落泪！北大团队搞出ChatExcel，说人话自动处理表格，免费且不限次使用（2023-03-05）
   • sSbvbJ2Zc3igj017OlybMA
   • 
4. 摩尔定律之父94岁仙逝！悼念一代半导体先驱、英特尔创始人戈登·摩尔（2023-03-25）
   • XxYzjXaxu9yDIq5Ugh_otg
   • 当地时间3月24日，摩尔定律的提出者、英特尔公司联合创始人戈登·摩尔（Gordon Moore）在家人的陪伴下平静地去世，享年94岁。
   • 在1965年，他做出了人类历史上最著名的预测之一：「集成电路上的晶体管数量将每年翻一番，从而以指数方式提高计算机的数据处理能力。」
   • 补充知识：
   • 更多的晶体管可以并行处理数据，从而加快运算速度
   • 更小的晶体管在工作时所需的能量更少，因此可以降低芯片的功耗
5. 训练个中文版ChatGPT没那么难：不用A100，开源Alpaca-LoRA+RTX 4090就能搞定（2023-03-26）
   • cTodp4lVeW6YP9NxoKhCcA
   • 为了提高模型性能，来自斯坦福的研究者帮助其完成了指令微调的工作，训练了一个名为 Alpaca（羊驼）的 70 亿参数新模型（基于 LLaMA 7B）。具体来说，他们让 OpenAI 的 text-davinci-003 模型以 self-instruct 方式生成 52K 指令遵循（instruction-following）样本，以此作为 Alpaca 的训练数据。实验结果表明，Alpaca 的很多行为都与 text-davinci-003 类似。也就是说，只有 7B 参数的轻量级模型 Alpaca 性能可媲美 GPT-3.5 这样的超大规模语言模型.
   • 
   • 为了进一步降低微调成本，另一位来自斯坦福的研究者 ——Eric J. Wang 使用 LoRA（low-rank adaptation）技术复现了 Alpaca 的结果。具体来说，Eric J. Wang 使用一块 RTX 4090 显卡，只用 5 个小时就训练了一个和 Alpaca 水平相当的模型，将这类模型对算力的需求降到了消费级。而且，该模型可以在树莓派上运行（用于研究）。
   • 
   • 
6. ChatGPT标注数据比人类便宜20倍，80%任务上占优势 | 苏黎世大学（2023-03-29）
   • 5vuktFUcgbz0tE4SodC5Ow
   • 成本上，ChatGPT平均每个标注成本低于0.003美元，比众包平台便宜20倍；
   • 效率上，在相关性、立场、主题等任务中，ChatGPT也是以4:1的优势"碾压"人类。
   • 还有网友嘲讽了起研究样本太少
   • 
7. 突发！AI视觉大牛陶大程被爆将离职京东探索研究院院长！（2023-03-30）
   • VWhCVC7un4JT9dW4voWjeg
8. 谷歌Bard被曝剽窃ChatGPT？BERT一作跳槽OpenAI，揭惊天内幕（2023-03-31）
   • pjrOj4I2_CR1X1nt72wayw
   • 谷歌的离职员工、已跳槽OpenAI的顶级研究员竟然曝出——Bard竟是用ChatGPT的数据训练的！
   • 根据The Information的报道，Devlin从谷歌离职的原因之一，就是他发现谷歌用于对抗ChatGPT的种子选手——Bard在训练时，用的正是ChatGPT的数据。
   • 有意思是，OpenAI此前就经常陷入争议，许多网站和艺术家指控ChatGPT是从自己这里窃取的数据。而今天，这是第一次有人指控别的公司从ChatGPT窃取数据。
   • 
   • 

4、April

1. CVPR 2023 | 一块隔热片即可实现红外场景下的物理攻击，北航提出针对红外行人检测器的漏洞挖掘技术（2023-04-03）

   • OQ0KYc28NK8voOTJOEsuFg
   • 
   • 
   • 
   • 该研究提出了可学习形状和位置的、物理操作性强的对抗红外补丁，可以通过巧妙的 loss 设计，实现对多变量同时的梯度优化。物理实现采用气凝胶隔热材料构建红外贴片。该方法优化速度快，贴片制作简单，从数字世界优化到物理世界构建对抗样本仅需 0.5 小时。实验效果相当甚至优于红外模态 SOTA 攻击方法，行人和车辆检测实验体现了方法的有效性和泛化性。

2. 从BLIP-2到SAM视觉语义金字塔+ChatGPT= 把图片变文本段落， 8G显存即可Run（2023-04-16）

   • IXOnl2y4H-UgB0Cr7BQbkQ
   • 
   • 如图所示，首先用BLIP2 得到一张图的Coars-grained Caption信息。再用 GRIT得到Dense Caption信息，最终用Segment Anything 去得到Fine- grained Region-level Semantic.高阶推理：把金字塔视觉语义给到ChatGPT，让ChatGPT去推理物体之间的关系和物体的物质信息等，最终生成一个高质量Unique的文本段落。
   • 

3. Caption Anything来了！可以解读清明上河图，细粒度可控的图像描述（2023-04-17）

   • 9yf8bRwyUfdryfSL2ntmJg
   • https://github.com/ttengwang/Caption-Anything
   • 近日南方科技大学和腾讯ARC Lab开源了一款交互式图像描述工具, 基于Segment Anything, BLIP-2 Captioning和chatGPT实现, 通过视觉控制(鼠标点击)获取特定区域的object, 并以多样化的语言风格描述出来.
   • 

4. 国内首个类ChatGPT协同办公应用！WPS AI 来了，Made in 珠海高新区！（2023-04-18）

   • vMleh45ZFvwkh0onkQHD4Q
   • WPS AI"未来发展将锚定三个战略方向。第一个方向是AIGC，主要是辅助编辑、改写、润色，帮助用户生产更优质的文章。
   • 第二个方向是阅读理解和问答，基于已储备的语料做问答式的交互，辅助阅读和知识检索。
   • 第三个方向是人机交互，基于大语言模型技术去做下一代基于自然语言的人机交互，用自然人类语言给软件下命令、提要求。
   • 

5. YOLOv8——CV界的XGBoost（2023-04-28）

   • hOg-_oFznT3aVAi69mvLpw
   • 分类、检测、分割、跟踪、关键点
   • 

6. 无需RLHF就能对齐人类，性能比肩ChatGPT！华人团队提出袋熊Wombat模型（2023-04-28）

   • 0FXKZJRGAT50XrR7ncL_zg
   • 

5、May

1. 基于Pytorch的模型剪枝教程实践（2023-05-31）

   • fc09laPrDEUFJylbMAn5OA
   • 剪枝功能在 torch.nn.utils.prune 类中实现，代码在文件 torch/nn/utils/prune.py 中，主要剪枝类如下图所示。
   • 
   • 
   • 更多剪枝方法实践，可以参考这个 github 仓库：Model-Compression。

6、June

1. Pytorch Debug常用的15条实操建议（2023-06-01）

   • s71N8jq17v2QU6_70MZuhg
   • 参数初始化：正确初始化模型的参数非常重要。用标准正态分布初始化参数不是好的选择，推荐的方法有Kaiming或Xavier。

2. GPT-4数学能力大蹦极！OpenAI爆火研究「过程监督」突破78.2%难题，干掉幻觉（2023-06-01）

   • PiVLFHRBLFD5Xj_mzCDsLg
   • ChatGPT为人诟病的「数学智障」问题，有望彻底攻克！OpenAI最新研究发现，利用「过程监督」可以大幅提升GPT模型的数学能力，干掉它们的幻觉。
   • Lightman H, Kosaraju V, Burda Y, et al. Let’s verify step by step[C]//The Twelfth International Conference on Learning Representations. 2023.
   • 论文中，研究人员训练模型通过奖励每一个正确的推理步骤，即「过程监督」，而不仅仅是奖励正确的最终结果（结果监督），在数学问题解决方面取得最新SOTA。
   • 值得注意的是，PRM（process-supervised reward）需要更多的人类标注，还是深深离不开RLHF
   • 
   • 
   • 

3. GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了降本减料质疑（2023-06-02）

   • K8W5Wy95YsDo8gfFyIUmvA
   • 
   • 假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？
   • 第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家渡过了最初的惊喜期，对它的期待变高了。
   • 还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。量子位也曾偶然"拷问"出ChatGPT在iOS上的系统提示词与网页版并不一致。
   • 总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。
   • 目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但让也让它自身的推理等能力变差。
   • 
   • 
   • 

4. 知识蒸馏综述: 知识的类型（2023-06-08）

   • YACoy_ZaCicjnirCQTNhSQ
   • Gou J, Yu B, Maybank S J, et al. Knowledge distillation: A survey[J]. International Journal of Computer Vision, 2021, 129(6): 1789-1819.
   • 知识蒸馏系统的三个核心组件：知识 knowledge、蒸馏算法 distillation algorithm、教师学生架构 teacher-student architecture
   • 
   • Response-Based Knowledge，指的是神经元的响应
   • 
   • Feature-Based Knowledge，一般而言，在基于特征的知识迁移中，研究的对象包括了：如何需选择知识类型？特征图、注意力图、gram矩阵或其他如何选择教师层和学生层？简单的一对一匹配，自适应通过注意力匹配。如何弥补教师网络与学生网络之间的GAP？如果容量相差过大，可能会导致学习效果变差。
   • 
   • Relation-Based Knowledge，不同层之间的关系建模，不同样本之间的关系建模
   • 
   • 
   • 
   • 
   • 
   • 
   • 
   • 
   • 

5. 谷歌DeepMind打破十年算法封印，AlphaDev惊世登场，颠覆人类算法格局！（2023-06-08）

   • vSpjA-VnRTLMfBNXzqBaWQ
   • 「Alpha」家族再添新成员AlphaDev！谷歌大脑DeepMind合体后首发力作，全新AI系统将排序算法提速70％，C++排序库十年来首次更改。AI创造AI的时代要来了？
   • 谷歌 DeepMind 的研究者相信，在这个较低的层级中存在许多可改进的空间，而这些改进在更高级的编程语言中可能很难发现。
   • 
   • AlphaDev：汇编版 AlphaZero

6. 13条咒语挖掘GPT-4最大潜力，Github万星AI导师火了，网友：隔行再也不隔山了（2023-06-11）

   • BJpGQE4SWPBC8Ncha8XaIA
   • 

7. YOLOv8太卷啦 | YOLOv8官方正式支持RT-DETR训练测试及推理（2023-06-19）

   • 4rd-J_mScCVndLus-2MnFQ
   • 
   • RT-DETR由百度开发，是一款端到端目标检测器，在保持高精度的同时提供实时性能。它利用ViT的强大特性，通过解耦尺度内交互和跨尺度融合来有效处理多尺度特征。RT-DETR具有很强的适应性，支持使用不同的解码器层灵活调整推理速度，而无需重新训练。该模型在具有TensorRT的CUDA等加速后端方面表现出色，优于许多其他实时目标检测器。
   • 
   • 

8. AI竟能生成芯片了！GPT-4仅用19轮对话造出130nm芯片，攻克芯片设计行业巨大挑战HDL（2023-06-21）

   • usBDWkKNBrnHrARLwxGPlg
   • 
   • HDL，硬件描述语言，变成了 Chip Chat
   • GPT-4，已经可以帮人类造芯片了！
   • 只用简单的英语对话，纽约大学Tandon工程学院的研究人员就通过GPT-4造出了一个芯片。具体来说，GPT-4通过来回对话，就生成了可行的 Verilog（全称为Verilog HDL，是一种特定的硬件描述语言）。随后将基准测试和处理器发送到 Skywater 130 nm 穿梭机上成功流片（tapeout）。
   • 这项成就，堪称史无前例。

9. 【深度学习】Transformer的细节到底是怎么样的？Transformer 连环18问！（2023-06-26）

   • PAH1IFQETLMoSLYlJPobIA
   • Transformer 是既 MLP、RNN、CNN 之后的第四大特征提取器，也被称为第四大基础模型；最近爆火的chatGPT，其最底层原理也是Transformer，Transformer的重要性可见一斑
   • 在Sequence to Sequence架构下（Encoder- Decoder的一种），RNN来提取特征，Attention机制将Encoder提取到的特征高效传递给Decoder
   • Mask操作是如何具体实现的呢？
   • Q1只跟K1计算，Q2只跟K1、K2计算，而对于K3、K4等，在softmax之前给一个非常大的负数，由此经过softmax之后变为0，
   • 
   • 为什么不使用 batch normalization，使用的是 layer normalization呢？因为一个时序数据，句子输入长度有长有短，如果使用 batch normalization，则很容易造成因样本长短不一造成"训练不稳定"。BN是对同一个batch内的所有数据的同一个特征数据进行操作；而 LN 是对同一个样本进行操作。

7、July

1. 仅靠"口才"就能解决视觉任务！商汤提出Shikra：新一代多模态大模型（2023-07-02）

   • QqNy2Mqc_OL4uZa6SAZWkg
   • 《Shikra: Unleashing Multimodal LLM’s Referential Dialogue Magic》
   • https://arxiv.org/pdf/2306.15195.pdf
   • https://github.com/shikras/shikra
   • 基于 CLIP 做的
   • 
   • 
   • 会拼图
   • 
   • 会分辨谁是镜子中的人
   • 
   • 
   • 点作为输入也可以
   • 
   • 
   • Reffering Expression Generation
   • 
   • Referring Expression Compression
   • 
   • 

2. 3D AI生成出新玩法了：无需数小时，只要45秒，单张图片即可生成 3D模型（2023-07-12）

   • nt4_LaJ0yXqkIQIc19Eucw
   • 
   • Project Page: http://one-2-3-45.com
   • Paper: https://arxiv.org/pdf/2306.16928.pdf
   • Code: https://github.com/One-2-3-45/One-2-3-45
   • Demo：https://huggingface.co/spaces/One-2-3-45/One-2-3-45
   • 
   • 

3. 「GPT-4.5」来了！地表最强 Code Interpreter 与Midjourney联动，5分做出大片｜附保姆级攻略（2023-07-14）

   • YqsQrmLBlGF4TCOiTqzQMw
   • 前段时间，GPT-4变笨引爆舆论，有人甚至把3小时25条额度一口气用完，也没有解决代码问题。然鹅，Code Interpreter（代码解释器）昨天正式解禁后，网友们纷纷觉得ChatGPT又行了！把它叫做「插件」简直低估了，应该称作GPT-4.5。
   • 总而言之，你不需要知道如何创建视频或Prompt什么。「代码解释器」会向你提问，以澄清或帮助为你指定的行动创建想法。 再来看看其他人的尝试。

4. 推特正式改名"X"，再也没有小蓝鸟了（2023-07-24）

   • O8jqqTFRFXHeTYHPjEerqw
   • 

5. GPT-4里套娃LLaMA 2！OpenAI创始成员周末爆改「羊驼宝宝」，GitHub一日千星（2023-07-24）

   • Tp4q8VflEZ7o8FgpZfrNgQ
   • 大神仅花一个周末训练微型LLaMA 2，并移植到C语言。推理代码只有500行，在苹果M1笔记本上做到每秒输出98个token。作者是OpenAI创始成员Andrej Karpathy，他把这个项目叫做Baby LLaMA 2（羊驼宝宝）。
   • 

6. AIGC开启大规模裁员，撕开AI大模型创业的伤口（2023-07-25）

   • R6Jrn-Zx6CKR0-JbAOEexA
   • 7月12日早上，美国AIGC独角兽Jasper创始人Dave Rogenmoser在领英发布公告，鉴于行业变化太快，为了更加专注并调整资源，公司将启动裁员。令人感到唏嘘的是，这家成立于2021年的独角兽企业刚刚于去年10月完成了1.25亿美元的融资。并在过去两年分别实现了4000万美元与7500万美元的营收。
   • 据不完全统计，目前仅美国类似于Jasper.AI这种基于GPT模型、ChatGPT或是其他科技企业所发布模型开发的产品已有数十个之多，而这些产品背后的一些创业公司也不乏正在面临与Jasper相似的困境。
   • 套壳应用

7. 超大杯Stable Diffusion免费来袭！「最强文生图开放模型」，提示词也更简单（2023-07-27）

   • SHCCebjNV7z_gLGU37OzvQ
   • 刚刚，SDXL 1.0正式发布，可免费在线试玩。
   • 能生成更加鲜明准确的色彩，在对比度、光线和阴影方面做了增强，可生成100万像素的图像（1024×1024）。
   • SDXL 1.0的基础模型参数量达到了35亿，理解能力更强。

8. Photoshop的AI功能上新：截图→背景填充一气呵成，再也不怕没拍全了（2023-07-28）

   • rr7w3KPj5DEFF5g4JTsbcw
   • 拍的照片画幅太小，想增加一些背景怎么办？Adobe 的 Photoshop 给出的答案是：先用文字描述一下你想要什么背景（比如海滩），然后拖动鼠标就可以了。甚至，你不需要输入提示词，直接拖动鼠标也可以。
   • 
   • 这是 Adobe 在新的 Photoshop 测试版中增加的一项新功能，名叫 Generative Expand（生成扩展）
   • 相比于 Stable Diffusion、Midjourney 等 AI 画图技术，Firefly 输出的内容可以分层，改细节，输出超高分辨率的图片，相当于 AI 正式进入了设计行业。

9. 算法岗和开发岗该怎么选择?（2023-07-31）

   • 5PyjbjJZDujH5cxeHZv5YA
   • 
   • 如果你能够适应形而上学，并且能够接收到良好的系统的算法研究训练，我认为算法更好。如果你喜欢一五一十，不喜欢经常面对一些可能人类暂时理解不了的东西，我建议开发。

8、August

1. 人类创造的数据太贵了！开发者悄悄使用AI合成数据训练模型（2023-08-01）
   • giKKFCEsWpAHoUEHUUkEhg
   • 人类数据快耗尽了，怎么训练更高级的AI？很多公司，已经在悄悄使用AI合成的数据来训练AI模型了。
   • 
   • 莱斯大学和斯坦福团队发现，将AI生成的内容喂给模型，只会导致性能下降。研究人员对此给出一种解释，叫做「模型自噬障碍」（MAD）。
   • 
   • 
2. 猩猩学会玩《我的世界》，方法竟和GPT-4智能体相通？（2023-08-14）
   • OTSfiT1qeda02d6ZBVbwDw
   • 经过训练后，它学会了各种技能，挑战了乡村、沙漠神殿、下界传送门等环境，一路通关到达终点。而AI专家发现，猩猩训练师教会它学技能的过程，竟然跟人类教AI玩Minecraft有诸多类似之处，比如上下文强化学习、RLHF、模仿学习、课程学习等。
   • 
   • 网友：原来猩猩打游戏也会生气
   • 早在今年5月，Jim Fan团队就曾把英伟达的AI智能体接入GPT-4，做出了一个全新的AI智能体 Voyager
   • 
3. 详解Python文件： .py、.ipynb、.pyi、.pyc、​.pyd ！（2023-08-17）
   • 0DkqP59-MRUl0Vh4UpN0jg
   • .pyc是Python字节码文件的扩展名，用于存储已编译的Python源代码的中间表示形式，因为是二进制文件所以我们无法正常阅读里面的代码。
   • 
   • .pyc文件包含了已编译的字节码，它可以更快地被Python解释器加载和执行，因为解释器无需再次编译源代码。
4. 一月裁员8万多人！全球科技行业裁员名单公布，公司越大裁的越多，X一次性裁掉一半员工！（2023-08-20）
   • tJWzin6JL87hzIrx1owjFg
   • 2023年1月科技公司的裁员人数达到了惊人的84714人，之后基本上是逐月下降。
   • 面向消费者的公司中，谷歌和 Meta 是裁员大户，字节也榜上有名，X（前Twitter）一下裁掉了一半的员工。
   • https://layoffs.fyi/
   • 
5. 华为新机测出5G速度！麒麟9000S正式回归，定价6999首批秒抢光（2023-08-29）
   • YYDENRZPR0PevC2c655Lvg
   • 
   • 值得注意的是，只有电信卡支持卫星通信功能，并需要在中国电信APP自助开通。
   • 5G虽未明确显示，但是多位博主实测网速达到5G水平。
   • 
   • 
6. 中国海洋大学发声！日本核污染水排海危害有这些，多所海洋大学学子附议！（2023-08-29）
   • wZ7bCa9d6JoV4BURQ1F0fg
   • 第一，核污染水中，很多放射性核素尚无有效处理技术。
   • 第二，核污染水中的放射性核素，影响人类健康。（核素进入到生态系统当中，它必定会通过食物链层层传递，影响到人类健康。）
7. 击败3位人类世界冠军，登上Nature封面！AI无人机极限竞速开启自动驾驶新纪元（2023-08-31）
   • ZJnyyW-fz_h9w7lLJ6tkgA
   • 苏黎世大学联合因特尔开发的Swift无人机竞速系统击败3名人类世界冠军，飞行自动驾驶迎来新纪元！
   • 
   • 研究人员解释，在Swift输掉的10场比赛中，40%是因为与对手发生碰撞，40%是因为与闸门发生碰撞，20%是因为无人机的速度比人类飞行员慢。总的来说，Swift在与人类飞行员的比赛中获胜最多。Swift还取得了最快的比赛时间记录，比人类飞行员（A.Vanover）的最佳时间领先半秒。
   • 
   • 
8. 算法岗工作，平时需要自己写cuda吗？（2023-08-31）
   • GhN8RuAgRKa4_mTO5L0WXw
   • 
   • 
   • 先放结论：基本上不需要，但是是很好的加分项！除非有特别高频使用的算子，优化前后的差距非常明显(比如对整体的影响5倍左右，无论是显存还是速度)才可以考虑进行个别算子的优化。万一一通CUDA操作下来，模型效果提升不明显，最终的时间/人力成本不一定划算。我更倾向于尽量先验证算法再进行优化。
   • 就算业务上没有使用cuda的地方，也可以学学cuda并行语言的思想。并行思想和普通的串行差距还是蛮大，有一定的代沟，需要时间过渡。

9、September

1. 你的科研能力从什么时候开始突飞猛进的？（2023-09-02）

   • W0JOH0csD25KkohsALo0Jg
   • 查阅、读、写、coding 借助大模型
   • 没能早点领悟在"被瞎指挥"
   • 终有一刻发现曾经高高在上的世界级大牛其实也只是凡人而已。

2. 如何评价3D点云的前景？（2023-09-05）

   • 0Gksiehy0fsfcEafafYI0w
   • 点云处理技术包括点云获取、滤波、分割、配准、检索、特征提取、识别、追踪、曲面重建、可视化等方法技术，也包括结合图论、模式识别、机器学习、数据挖掘和深度学习等人工智能算法之后的解决实践应用中的同步定位与地图构建（SLAM)、三维模型检索、三维场景语义分析、广义点云等综合技术内容。
   • 3D点云技术目前面临着一些挑战：数据获取处理、数据噪声和不完整性、数据存储与计算、点云的语义理解、点云的高效表示和压缩、数据标注与验证、实时性要求

3. 错误率降低44%！纽约大学最新「人脸生成」可让年龄随意变化：从少年到老年全覆盖（2023-09-06）

   • jQQyiL9aNde2wCLvOywB8g
   • Banerjee S, Mittal G, Joshi A, et al. Identity-preserving aging of face images via latent diffusion models[C]//2023 IEEE International Joint Conference on Biometrics (IJCB). IEEE, 2023: 1-10.
   • https://arxiv.org/pdf/2307.08585
   • 
   • 

4. 这一次，大模型颠覆广告行业！（2023-09-07）

   • udmmgfucfeLHz2-XN4Uh-g
   • 就在刚刚，百度营销官宣接入文心一言，推出新一代营销平台轻舸，也是全球首个AI Native的营销平台。
   • 不需要再纠结于"关键词"，直接把需要推广的产品/服务、广告的目标人群告诉大模型，大模型就能够理解人类意图，自动生成营销方案。这样一来，就避免了关键词疏漏造成的营销信息丢失。

5. 博士应聘高校把老板卖了：4篇论文导师虽一作，实际都是我一个人写的…（2023-09-10）

   • BnHwb6xewkioV0WIaPPDDQ

6. YOLO-NAS 如何将 YOLO-v8 甩在身后？（2023-09-16）

   • hyBjBY73C4nEPI5vlJ5CUw
   • 预训练了一些顶级的数据集（COCO、Objects365和Roboflow 100）
   • 
   • YOLO-NAS S：47.5 mAP，延迟 3.21 毫秒
   • YOLO-NAS M：51.55 mAP，延迟 5.85 毫秒
   • YOLO-NAS L：52.22 mAP，延迟 7.87 毫秒
   • YOLO-NAS S INT-8：47.03 mAP，延迟 2.36 毫秒
   • YOLO-NAS M INT-8：51.0 mAP，延迟 3.78 毫秒
   • YOLO-NAS L INT-8：52.1 mAP，延迟 4.78 毫秒
   • github代码：https://github.com/Deci-AI/super-gradients
   • 

7. 吴恩达教授2023年斯坦福最新演讲！（2023-09-17）

   • 0SUOXbpbybQgSvQh96cOAw
   • AI 是一种通用技术，类似电力，有很多不同的应用领域。
   • 监督学习
   • 生成式人工智能的核心是使用监督学习，通过输入-输出映射来重复预测下一个单词
   • 
   • 
   • 
   • 随着生成式人工智能的崛起或新的人工智能工具的出现，真正令我兴奋的是有机会创建那些非常深入、非常复杂的应用程序，希望它们能够创造非常长期的价值。（想到了 Steve Jobs 在我们推出 iPhone 后不久，有人写了一个我花了 1.99 美元的应用程序，可以将手机的 LED 灯打开，将手机变成手电筒。这也是一个不错的想法，编写一个应用程序来打开 LED 灯，但它也不具备可持续的长期价值，因为它很容易被复制，价格不高，并最终被整合到了 iOS 中。但随着 iOS 和 iPhone 的崛起，有人也想出了如何构建 Uber 和 Airbnb 这样的应用。）
   • 
   • 我看到了许多令人兴奋的低代码和无代码工具，使用户能够自定义人工智能系统。（挖掘长尾领域的 value）
   • 
   • 我并不认为AI会对人类构成任何有意义的灭绝风险。虽然人们担心我们无法控制AI，但我们已经有很多经验来引导非常强大的实体，如企业或国家，这些实体比任何个人都要强大，确保它们在很大程度上造福人类

8. 连博世都放弃激光雷达研发了（2023-09-17）

   • 4K63-fCC-4znC3n2gaD-QA
   • 发言人还对放弃激光雷达研发给出了两点解释：技术复杂性和上市时间。
   • 放眼未来，上市时间还是个问题，目前赛道上仅国内就有禾赛科技、速腾聚创等知名玩家，博世的激光雷达量产后未必能卷的过。

9. 台积电补贴苹果数十亿刀，只为能代工3nm芯片？揭秘苹果和台积电的「共生协议」（2023-09-18）

   • Kz0zq2RFa5sNgAseAem_ow
   • 据知情人士称，就今年推出的3纳米工艺节点而言，晶圆上的芯片良品率一直在70%到80%之间徘徊。对于台积电的客户来说，这个数字是难以接受的，因为客户需要为整个晶圆买单，包括其中有缺陷的芯片。但是针对苹果，台积电只会收取良品芯片的费用，也就是业内所称的「已知合格芯片」。 毕竟，有苹果这样的金主愿意成为台积电新制造工艺的第一个客户，能分担台积电先进制程节点的研发费用和专用工厂的建设费用。
   • 

10. 深度学习刷SOTA有哪些trick？（2023-09-21）

    • r6aahU6TTnZ242FTEjEnWw
    • Backbone 和 Heads 的不同学习率 (LR)
    • 

11. OpenCV钢铁平面焊接的缺陷检测案例（2023-09-22）

    • XIE-6AgFoM8_ysgqa5tCPw

12. Yolo系列检测网络不再孤单，延伸框架层出不穷（附框架源代码）（2023-09-28）

    • BNtP32LHKsJ8A2cBe-Um8w
    • Yolo-Fastest开源代码：https://github.com/dog-qiuqiu/Yolo-Fastest
    • YoloV：https://github.com/YuHengsss/YOLOV
    • Pyramid Vision Transformer（PVT）：https://github.com/whai362/PVT

10、October

1. CRAS-YOLO：多类别船舶检测与分类模型（2023-10-03）

   • URYv40GhFPlXXkT7knI74g
   • 由卷积块注意力模块（CBAM）、感受野块（RFB）和基于YOLOv5s的自适应空间特征融合（ASFF）组成。CRAS-YOLO改进了基于路径聚合网络（PANet）的特征金字塔网络，该网络集成了RFB特征增强模块和ASFF特征融合策略，以获得更丰富的特征信息，并实现多尺度特征的自适应融合。同时，在骨干中增加了CBAM，以准确定位船只位置，提高检测能力。

2. 博士师弟被高校引进，承诺其可当上市局副局长？长点心吧…（2023-10-04）

   • YLMe_VqSlm9xHo7qP8bPRQ
   • 学富五车的博士，学富三车的硕士
   • 

3. 小目标检测trick，HIC-YOLOv5模块，简单高效实用!（2023-10-04）

   • kNlZJn5SBKS8ZuNVLrBLig
   • 论文链接：https://arxiv.org/abs/2309.16393
   • Tang S, Zhang S, Fang Y. HIC-YOLOv5: Improved YOLOv5 for small object detection[C]//2024 IEEE International Conference on Robotics and Automation (ICRA). IEEE, 2024: 6614-6619.
   • 特别为小目标设计了额外的预测Head。它在分辨率更高的特征图中检测目标，其中包含更多关于微小和小目标的信息。
   • 在Backbone网络和Neck之间添加了一个involution块，作为特征图的通道信息增强桥梁。
   • 在Backbone网络的末端应用了CBAM，从而提取了更多的关键通道和空间信息，而忽略了多余的信息。
   • 

4. 阿里员工被裁后自爆，15年真实薪资涨幅（2023-10-05）

   • LMYfYWrzOmvUN5rmotWRPA
   • 实名羡慕，这位小哥很优秀了，15年时间挣了900万。
   • 行业，公司，部门，个人。4重buffer的叠加，想不出类拔萃都不行。

5. 多传感器融合方案简述（2023-10-14）

   • aQJXvZmnGpKP2DQyoWT4fA
   • 前融合：在数据层面就执行融合操作
   • 中融合：对感知算法过程中的部分数据、部分或全部特征，通过空间同步及时间同步等操作，进行的融合操作
   • 后融合：不同传感器数据通过各自感知算法模块，对提取出的感知结果进行融合
   • 
   • 
   • 
   • 如果我们输入的传感器数据只是当前帧的数据时，无记忆融合框架输出的就是对应当前时间的感知结果。如果我们还需要历史帧的感知结果时，就要用到有记忆的融合框架。

6. 这款iToF模组，为何爆火?（2023-10-15）

   • F6A72_ieuF8uNyfVFQbcSg
   • 场景一：测试强光干扰——几乎无影响
   • 
   • 场景二：测试指尖近距离是否会发生点云粘连——Flexx2不会发生点云粘连
   • 
   • 场景三：室外阳光下，测试成像效果——Flexx2成像较高，噪点少
   • 

7. 字节跳动李航：对语言大模型的若干观察和思考（2023-10-15）

   • 0I-y1dGM08n8KF1Kwv2diw
   • 
   • 
   • 
   • 
   • 
   • 多模态处理应该是 LLM 之后未来人工智能发展的重要方向

8. "大大震惊"一位CTO：GPT-4V自动驾驶五连测（2023-10-15）

   • 3SYc2-7HLWMBrB-fEpPVhQ
   • 我认为自动驾驶中和语义相关的问题应该大模型都已经解决得很好了，但是大模型的可信性和空间感知能力方面仍然不尽如人意。
   • 

9. 性能差异不大？注意力机制作用被高估了？（2023-10-17）

   • Yc8CuntvL3JkeBN8CIRBEA
   • 
   • 
   • 首先，用常数矩阵替换一半的注意矩阵，对模型性能的影响极小，某些情况下甚至可能导致性能的提升（x值达到½时，图中有些模型数值不减反增）。
   • 其次，即使注意力头数量降低为0，平均性能下降也就8%，与原始模型相比最多不超过20%。
   • 
   • 这说明如果模型本身性能越好，对注意力机制的利用能力就越好。

10. 深度学习刷SOTA有哪些骚气的trick？（2023-10-16）

    • iK3ryk621RlHnoXdGaHtRA
    • 这个过程的最终结果是选了对于当前模型状态来说，最有价值的一批数据来进行标注，本质上其实就是进行人肉的主动学习。不过我没去试过一些主流的主动学习方法，不知道好不好用，了解的同学可以回答一下:-)
    • 而trick的话，一个是不一定好用，然后不一定正交，最后还不一定通用，整体不确定性比较大，回报率还是比较低的，所以不如直接简单粗暴标数据 。

11. 训练CV模型常用的Tips & Tricks（2023-10-18）

    • bvwT2C40XHQnB_7cUVfMPA
    • 逐层解冻：一个可以让你获得微小改进的简单技巧是随着训练的进行解冻预训练骨干的层。
    • 错误有时候是好消息！bad case 分析

12. 马斯克一觉醒来，纯视觉NOA已在中国开跑：上海闹市一镜到底0接管，高速城区全都不用自己开（2023-10-18）

    • yZz71P488bDg7QXdXgBZIw
    • 极越汽车，搞了一个车圈科技圈大新闻：纯视觉NOA国内首发上路！
    • 极越01的这种私家车智驾系统，在国内首个布局、跑通纯视觉方案，不再把激光雷达作为唯一的智能驾解决方案——通常行业认为这是现阶段高阶智驾的必须条件。
    • 
    • 不依赖激光雷达的纯视觉方案要解决的关键问题，就是找出能够替代3维数据实时还原构建的视觉方法。极越所展示的方式是OCC，Occupancy Networks，占用网络。
    • 这项技术去年在特斯拉AI Day上被首次公开应用，后来特斯拉又在CVPR 2023的workshop上做了进一步阐述。
    • 不需要考虑物体是什么，只考虑当下这个"方块"是否被占用：
    • 
    • 

13. 斯坦福公开十大主流模型透明度！Llama 2位列第一，GPT-4透明差，LeCun炮轰：盈利完全理解（2023-10-20）

    • 9auGZChyiFqqe-cA2YTRtQ
    • 斯坦福、MIT、普林斯顿团队提出了一个「基础模型透明度指数」，并对当前十个主流模型的透明度进行了评级。
    • 结果显示，10个模型中最透明的是Llama 2，得分为54%。GPT-4、PaLM 2都排在后面。
    • 
    • 

前缀：https://mp.weixin.qq.com/s/