大模型(LLM)是一种人工智能模型,旨在理解和生成人类语言。它们在大量的文本数据上进行训练,可以执行广泛的任务,包括文本总结、翻译、情感分析等等。LLM的特点是规模庞大,包含数十亿的参数,帮助它们学习语言数据中的复杂模式。这些模型通常基于深度学习架构,如转化器,这有助于它们在各种NLP任务上取得令人印象深刻的表现。

2022年底,OpenAI 推出的基于 GPT-3.5 的大型语言模型 ChatGPT,由于其优秀的表现,ChatGPT 及其背后的大型语言模型迅速成为人工智能领域的热门话题,吸引了广大科研人员和开发者的关注和参与。
在这里插入图片描述
为了方便大家阅读,只列出了论文标题、AMiner AI综述等信息,如果感兴趣可点击查看原文,PC端数据同步(收藏即可在PC端查看),每日新论文也可登录小程序查看。

如果想要对某篇论文进行深入对话,可以直接复制论文链接到浏览器上或者直达AMiner AI页面:
https://www.aminer.cn/chat/g/explain

The GAN is dead; long live the GAN! A Modern GAN Baseline

【要点】:本文提出了一个新的生成对抗网络(GAN)基准模型R3GAN,通过改进GAN损失函数并采用现代网络架构,有效解决了传统GAN训练中的模式崩溃和收敛性问题,实现了优于现有先进GAN和扩散模型的性能。
【方法】:作者推导了一种表现良好的正则化相对GAN损失函数,并从数学上分析了该损失函数,证明了其具有局部收敛性保证。
【实验】:通过在FFHQ、ImageNet、CIFAR和Stacked MNIST数据集上的实验,证明了R3GAN的性能优于StyleGAN2和其他先进GAN及扩散模型。
【链接】:https://www.aminer.cn/pub/6756a611ae8580e7ff9d9016

Enhancing Human-Like Responses in Large Language Models

【要点】:本文探讨了提高大型语言模型(LLM)的人性化响应,通过增强自然语言理解、会话连贯性和情感智能,以改善AI系统与用户的互动。
【方法】:研究采用了多种方法,包括使用多样化数据集进行微调、融入心理原则以及设计更贴近人类推理模式的模型。
【实验】:本文评估了这些方法的效果,但未具体提及所使用的数据集名称,实验结果表明这些增强技术提升了用户体验,并为AI在不同领域的应用提供了新可能性。
【链接】:https://www.aminer.cn/pub/67808dfdae8580e7ff8fc833

An Empirical Study of Autoregressive Pre-training from Videos

【要点】:本研究通过实验验证了基于视频的自动回归预训练的有效性,提出了一种新的视频模型Toto,在多种下游任务中取得了竞争性表现。
【方法】:研究构建了一系列自动回归视频模型Toto,将视频视为视觉标记序列,利用变体模型进行自动回归预测未来标记。
【实验】:在包含超过1万亿视觉标记的多样化视频和图像数据集上进行了预训练,并在图像识别、视频分类、对象跟踪和机器人技术等多个下游任务上评估了学习到的视觉表征,实验结果表明模型具有良好的性能,且模型规模的扩大呈现出类似于语言模型的规模扩大曲线。数据集名称未在文中明确提及。
【链接】:https://www.aminer.cn/pub/67808a70ae8580e7ff834a10

Are VLMs Ready for Autonomous Driving? An Empirical Study from the Reliability, Data, and Metric Perspectives

【要点】:本文通过实证研究探讨了视觉语言模型(VLMs)在自动驾驶中的可靠性、数据和使用指标,并提出了一种新的评估基准DriveBench,发现VLMs在生成视觉定位、可靠和可解释的驾驶决策方面存在缺陷。
【方法】:作者设计了一个名为DriveBench的基准数据集,该数据集包含不同设置下的19200帧图像、20498个问答对、三种问题类型、四种主流驾驶任务,以及12种流行的VLMs,用以评估VLMs的可靠性。
【实验】:实验在DriveBench数据集上完成,结果表明VLMs在退化或缺失视觉输入下往往产生基于一般知识或文本线索的合理响应,而非真正的视觉定位。作者还发现VLMs在多模态推理方面存在困难,并对输入的退化高度敏感。针对这些问题,作者提出了优化的评估指标,并探讨了利用VLMs对退化的感知来提高其可靠性的可能性。
【链接】:https://www.aminer.cn/pub/677de591ae8580e7ff2d7d7d

VITA-1.5: Towards GPT-4o Level Real-Time Vision and Speech Interaction

【要点】:本文提出了一种多阶段训练方法,通过逐步训练大型语言模型(LLM)理解视觉和语音信息,实现了接近GPT-4o级别的实时视觉与语音交互能力。
【方法】:通过分阶段训练,首先训练LLM理解视觉信息,然后逐步引入语音信息,最终实现无需独立自动语音识别(ASR)和文本到语音(TTS)模块的高效语音对话能力。
【实验】:在图像、视频和语音任务的标准基准上进行对比测试,使用的数据集未在文中明确提及,实验结果显示我们的模型在视觉和语音任务上均表现出强大的能力,实现了接近实时的视觉与语音交互。
【链接】:https://www.aminer.cn/pub/677b3ee0ae8580e7ff0a3f77

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐