Transformer 架构因其强大的通用性而备受瞩目，它能够处理文本、图像或任何类型的数据及其组合。其核心的“Attention”机制通过计算序列中每个 token 之间的自相似性，从而实现对各种类型数据的总结和生成。在 Vision Transformer 中，图像首先被分解为正方形图像块 ...

三人是紧密的合作伙伴。 最近，OpenAI 又迎来了新的人事变动，但这次不是某个技术大牛离职，而是从谷歌挖来了一些新鲜血液。 这些「新人」来自谷歌 DeepMind 的苏黎世办事处，包括资深研究科学家 Xiaohua Zhai（翟晓华）、研究科学家 Lucas Beyer 和 Alexander Kolesnikov。

多模态面部表情识别研究综述2021-2025年，系统分析Vision Transformer（ViT）与可解释AI（XAI）方法在融合策略、数据集及性能提升中的应用，指出ViT通过长距离依赖建模提升分类准确率，但存在隐私风险、数据不平衡及高计算成本等挑战，未来需结合隐私保护技术与 ...

近年来,Vision Transformer(ViT)在计算机视觉领域取得了巨大突破。然而ViT模型通常计算复杂度高,难以在资源受限的移动设备上部署。为了解决这个问题,研究人员提出了Convolutional Additive Self-attention Vision Transformers (CAS-ViT),这是一种轻量级的ViT变体,旨在在效率和性能 ...

11月23日（周二），AI顶会审稿人、百度深度学习研究院资深研究员朱欤博士直播讲授《Vision Transformer十讲》。每晚1小时、连续10天，朱欤博士带你从零玩转ViT算法！ Vision Transformer前沿技术全面讲解：从ViT经典算法到最新学界前沿，从技术原理到实现细节, ViT, Swin ...

本研究针对铁路运输安全中紧固件缺陷检测的难题，采用非破坏性评估(NDE)技术，对比分析了Vision Transformer(ViT)、Data-efficient ...

这项由爱尔兰都柏林大学国家人工智能中心（CeADAR）的Sebastián Andrés Cajas Ordónez领导的研究团队发表于2025年，合作机构包括哥伦比亚安蒂奥基亚大学、意大利都灵大学和哥伦比亚考卡大学航空航天公司。这项研究首次系统性地证明了量子计算机在机器学习任务中 ...

导语：本文提出的progressive sampling模块，在每次迭代都会利用全局信息对采样位置进行更新，从而使得网络可以逐渐关注到感兴趣的信息。