金十数据5月21日讯，继HBM之后，三星电子今年的首要任务是在半导体代工方面获得英伟达的订单。据业内人士透露，三星电子半导体代工部门（DS）已在内部将“赢得英伟达3nm产品订单”作为今年的首要任务。“各部门正在全力以赴，通知集合英语流利的员工，与‘Nemo’接单相关的工作将优先于现有工作。”Nemo是三星电子内部的客户代号，用于指代英伟达。 （韩国FNNews）

据站长之家 1 月 8 日报道，开源对话 AI 工具包 NVIDIA NeMo 宣布推出 Parakeet ASR 模型系列，这是一系列最先进的自动语音识别（ASR）模型，能够以出色的准确性转录英语口语。 英伟达宣布推出了四个 Parakeet 模型，这些模型基于 RNN Transducer/Connectionist Temporal Classification 解码器，并且具有 0.6-1.1 亿参数。它们能够应对各种音频环境，并且在仅使用了 64000 小时的数据集进行训练后，在基准数据集上实现了出色的词错误率（WER）表现，优于以往的模型。 根据开发人员的说法，这些模型对音乐和静音等非语音片段具有鲁棒性，并且在基准测试中优于 OpenAI 的 Whisper v3。它们还通过预先训练的控制点提供用户友好的集成到项目中。

据 DoNews 12 月 11 日报道，近日，马来西亚能源公用事业公司杨忠礼电力（YTL Power）宣布与英伟达达成合作，在马来西亚建设 AI 基础设施，第一阶段预计将于 2024 年中期投入运营。 据了解，杨忠礼将在数据中心部署英伟达 H100 Tensor Core GPU，并使用 NVIDIA AI Enterprise 软件来简化生产 AI。NVIDIA AI Enterprise 包括 NVIDIA NeMo，这是一个端到端的云原生框架，用于从任何地方构建、定制和部署生成式 AI 模型。 AI 基础设施将托管在柔佛州古来的杨忠礼绿色数据中心园区，这是一个由杨忠礼开发的 500 兆瓦设施。马来西亚总理安瓦尔・易卜拉欣在 X 发文，称 AI 数据中心的投资价值 42.9 亿美元（约 307.59 亿元人民币）。

据《科创板日报》9 月 14 日报道，在 2023 全球 AI 芯片峰会上，NVIDIA 解决方案与架构技术总监张瑞华介绍了 NVIDIA 最新推出的开源软件 TensorRT-LLM，她表示 TensorRT-LLM 可基本解决目前模型发展速度快、更新频繁、用户数量大等挑战，并且该软件支持 GPU 多节点，编程简单，与 Triton 相结合可降低多用户延迟问题，从而充分利用 GPU 并降低成本。 针对大模型的训练，NVIDIA 还提出了 NeMo Framework，这是一套端到端且具有云原生的训练框架，用于建构、定制和部署生成式 AI 模型，基本覆盖了大模型训练的全生命周期。为了防止大模型的胡言乱语，NVIDIA 还提供了一个安全护栏功能（Guardrails），来帮助大模型更好的泛化知识。张瑞华认为，AI 模型具有巨大的用户空间，未来不仅存在于研究所，可能会成为每个人手机或电脑上的应用。

据 IT 之家 6 月 27 日报道，英伟达昨日宣布，与云数据分析公司 Snowflake 结成战略合作伙伴关系，帮助各行业的企业客户利用自有数据建立 AI 模型。黄仁勋表示，“像是 Snowflake 这样的大数据分析离不开云计算。”英伟达帮助 Snowflake 把用于训练与运行生成式 AI 的 NeMo 平台嵌入 Snowflake 的 Data Cloud 中。 Snowflake 的 CEO Frank Slootman 表示，使用 Snowflake 管理数据的企业现在能利用自己的数据来训练新的 AI 模型，不会面临失去对自家数据的控制的风险。 双方并未透露具体的合作细节，但黄仁勋指出，英伟达将受惠于 AI 进程。他表示，英伟达将卖出更多芯片，英伟达的 AI Enterprise 系统将为使用者带来帮助。据介绍，英伟达已向使用 AI Enterprise 软件的客户收取费用。

据 IT 之家援引英国《金融时报》报道，英伟达人工智能软件“NeMo”可被轻易绕过安全限制，并且有可能泄露用户隐私。报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。 英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。