大模型日报 2024-12-17

大模型日报 2024-12-17

大模型资讯

• 标题： Tokenization不存在了？Meta最新研究，无需Tokenizer的架构来了

  • 摘要：这篇文章介绍了Meta与芝加哥大学等机构合作的研究，提出了一种新的字节潜在Transformer（BLT）架构，旨在取代传统的tokenization方法。BLT通过直接建模原始字节流，动态分组为patch，从而提高计算效率，避免了固定词汇表的限制。研究表明，BLT在多个基准测试中超越了基于token的架构，尤其在处理多样化和噪声输入时表现出色。该架构在训练和推理过程中节省了高达50%的计算资源，展示了在没有tokenization的情况下进行大规模训练的潜力。这项研究为未来的语言模型发展提供了新的思路，可能会引领AI领域的重大变革。
• 标题： AI for Science是科学的未来，NVIDIA正加速它的到来

  • 摘要：本文探讨了人工智能（AI）在科学研究中的重要性，特别是NVIDIA在推动AI for Science方面的努力。文章指出，AI技术的突破正在改变科学研究的模式，诺贝尔奖的颁发也反映了这一趋势。NVIDIA在SC24大会上推出了一系列AI和科学计算工具，包括用于药物设计、气候预测和材料发现的多种新技术。BioNeMo平台加速了生物药物研发，cuPyNumeric库提升了数据处理效率，而Earth-2 NIM微服务则显著提高了气候预测的速度和能效。NVIDIA的创新为科学家应对复杂挑战提供了强大支持，推动了各行各业的变革。
• 标题： 张璇、周光敏团队在随机退役条件下基于生成式学习的电池健康状态评估与可持续回收研究中取得新进展

  • 摘要：该研究由清华大学深圳国际研究生院的张璇和周光敏团队主导，提出了一种基于注意力变分自动编码器（AVAE）的生成式机器学习方法，用于电池健康状态（SOH）的评估与可持续回收。随着电动汽车市场的快速发展，退役电池的处理成为重要挑战。传统方法效率低下，而新方法能够几乎零成本生成脉冲电压响应数据，显著提高了SOH评估的准确性。研究表明，该方法在2030年全球动力电池退役场景下可节省约49亿美元电力成本，并减少358亿公斤二氧化碳排放，展现出显著的经济和环境效益。这一成果为电池回收利用提供了新的技术路径，具有重要的应用前景。
• 标题： OpenAI发布季第八天：ChatGPT搜索功能全面开放、新增语音搜索服务

  • 摘要：OpenAI于2024年12月17日宣布，ChatGPT搜索功能全面向所有用户开放，标志着其在AI搜索领域的重要进展。该功能基于GPT-4o模型，允许用户通过自然语言提问并获取实时信息，增强了ChatGPT的互动性和实用性。用户可以通过新图标启动搜索，获取最新的天气、体育比分等信息。此外，OpenAI还推出了语音搜索服务，用户可以通过语音询问问题，享受更便捷的搜索体验。此举被视为对传统搜索引擎的有力竞争，显示出AI在信息获取方式上的创新和发展。
• 标题： 从骁龙8至尊版，我看到了AI手机的未来|智在终端

  • 摘要：本文探讨了骁龙8至尊版芯片在AI手机领域的影响，强调了AI技术在语音助手和实时翻译等应用中的重大变革。文章指出，端侧芯片的进步是推动AI应用变革的关键因素，展望了AI手机的未来发展趋势。通过分析高通的技术创新，文章展示了AI如何提升用户体验，并推动智能手机行业的进步，具有较高的实用性和前瞻性。
• 标题： 谷歌版Sora来了，4K高清暴击OpenAI！视频生图新卷王，更理解物理世界

  • 摘要：这篇文章报道了谷歌新发布的AI视频生成模型Veo 2及其图像生成模型Imagen 3.强调了Veo 2在视频生成领域的重大突破。Veo 2具备4K分辨率，能够更好地理解现实世界的物理和运动，生成的画面细腻且真实，能够遵循简单和复杂的指令，展现出极高的生成质量。文章详细描述了Veo 2在运动能力、真实感和相机控制方面的优势，指出其在与其他顶尖视频模型的对比中脱颖而出。此外，Veo 2对专业术语的理解能力也得到了强调，展示了其在创作过程中的实用性和创新性。这些新技术的发布标志着谷歌在AI领域的持续进步，缩小了与竞争对手的差距。