This paper presents a unified Vision-Language Pre-training (VLP) model. The model is unified in that (1) it can be finetuned for either vision-language generation (e.g., image captioning) or ...

本文针对多源卫星图像时间序列（SITS）在时空分辨率不匹配、数据缺失和云污染等方面的挑战，提出了一种名为TAMRF（Temporal ...

智东西11月28日报道，今日，腾讯混元正式推出混元3D Studio 1.1，并正式接入全新美术级3D生成大模型hunyuan 3D PolyGen 1.5，支持AI直接生成具备专业布线结构的原生四边形网格3D资产。 全新模型PolyGen 1.5首次实现端到端四边面直接生成，提供连贯边缘环结构、软硬表面 ...

近日，国际顶级期刊《Science》发表了一项来自Raina Biosciences与MIT合作团队的突破性研究：利用深度生成模型GEMORNA设计出具有显著增强翻译能力与稳定性的mRNA序列，为下一代mRNA药物与疫苗开发提供了全新范式。 文中LNP使用了迈安纳(上海)仪器科技有限公司的纳米 ...

随着5G 国际标准的出炉，Polar码顺利入选控制信道编码方案，世界上各大通信设备生产商便开始基于标准设计基站和终端产品。 我们明白，从纯算法到实现工程化，中间还有很长一段路要走。一方面，我们需要保证算法的性能良好；另一方面，便于硬件实现。

数字病理学中细胞检测与分割面临标注成本高的问题。研究人员创新性地提出混合监督策略，利用"目测法"(eyeballing)获取的细胞计数作为弱监督信号，结合多任务学习框架和一致性损失函数，在HE染色组织图像上实现了细胞定位与计数的协同优化。该方法显著降低 ...

如果有人问目前最火的基础模型是啥？那我一定回答是Transformer模型。Transformer模型自2017年提出以来，一直深受大家喜欢，其架构主要分为三种变体：Decoder-Only、Encoder-Only和Encoder-Decoder，每种变体都有其独特的特点和应用场景。 嵌入层处理：对输入文本的每个 ...

近日，我校电子信息工程学院智算电磁学团队在时序神经网络辅助高功率微波高效防护方面取得了进展，相关工作以An Alternative Implementation of Multivariate-Teaching-based Transformer for High-Power Microwave Problems with Plasma Array为题在《IEEE Transactions on ...

在上一篇文章中介绍了大模型的嵌入和向量，这一篇来介绍一下大模型的经典架构之Transformer架构的编码器和解码器。 像很多人一样，一直在奇怪Transformer架构经过多层编码和解码之后就能处理输入数据并生成新的数据；所以，今天我们就来深入了解一下Transformer ...

2.将上述语音信号作 -律非均匀量化编码与解码，并分别采取以下各种不同编解码方案 对编码范围内小信号或大信号都采用等量化级进行量化 ,因此小信号的“信号与量化噪声比”小 ,而大信号的“信号与量化噪声比”大 ,这对小信号来说是不利的。为了提高小 ...

在解释机器学习模型方面，稀疏自编码器（SAE）是一种越来越常用的工具（虽然 SAE 在 1997 年左右就已经问世了）。 机器学习模型和 LLM 正变得越来越强大、越来越有用，但它们仍旧是黑箱，我们并不理解它们完成任务的方式。理解它们的工作方式应当大有助益。