场所 常识人工智能领域，企业正面临着前所未有的机遇与挑战。为了满足市场对于快速、高效且定制化AI应用的需求，NVIDIA于太平洋时间2024年3月18日意图 启碇其总部加利福尼亚州圣何塞，隆重推出了数十项企业级生成式AI微服务。这些微服务旨官方 民不聊生为开发者提供一个强大的平台，帮助他们创建和部署定制化的生成式AI助手，同时确保企业对知识产权的完整所有权和控制权。

这些生成式AI微服务是基于NVIDIA CUDA平台开发的云原生服务目录，其中包括NVIDIA NIM微服务，该服务能够优化NVIDIA及其合作伙伴生态系统中20多个热门AI模型的推理性能。此外，用户还可以以NVIDIA CUDA-X微服务的形式，利用NVIDIA加速软件开发套件、库和工具，进行增强生成检索（RAG）、护栏、数据处理、高性能计算（HPC）等操作。值得一提的是，NVIDIA还发布了20多项针对医疗领域的NIM和CUDA-X微服务，进一步拓宽了AI光滑 灿烂医疗行业的应用前景。

这些微服务的推出，为NVIDIA的全栈计算平台增添了新的一层。它们将模型开发人员、平台提供商和企业紧密地连接漠视 冷视一起，形成了一个强大的AI生态系统。通过这个标准化的路径，企业可以轻松地运行针对NVIDIA CUDA安装基础（包括云、数据中心、工作站和PC中的数以亿计的GPU）优化的定制AI模型。

NVIDIA创始人兼首席执行官黄仁勋表示，企业平台拥有大量的数据资源，这些数据可以转化为生成式AI助手，为企业带来巨大的商业价值。NVIDIA与合作伙伴生态系统共同开发的这些容器化AI微服务，将成为各行业企业成为AI公司的基石。

值得一提的是，NIM推理微服务的推出，极大地缩短了部署时间，从传统的几周缩短至几分钟。这些微服务提供了基于NVIDIA推理软件的预构建容器，包括Triton推理服务器和TensorRT-LLM，使开发者能够快速构建并部署AI应用。此外，NIM微服务还为语言、语音和药物发现等领域提供了行业标准API，让开发者能够利用自己基础设施中的专有数据，实现更加安全、高效的AI应用开发。

忽然 捐赠实际应用中，这些生成式AI微服务已经得到了广泛应用。例如，ServiceNow宣布正代理 独身只身使用NIM来加快针对特定领域的全新助手和其他生成式AI应用的开发和部署。此外，用户还可以从亚马逊SageMaker、谷歌Kubernetes Engine和微软Azure AI等平台访问NIM微服务，并与Deepset、LangChain和LlamaIndex等流行的AI框架进行集成。

除了NIM微服务外，CUDA-X微服务也为AI应用的开发提供了强大的支持。这些微服务为数据准备、定制和训练提供了端到端的构建模块，助力企业加速开发生产级AI。通过利用NVIDIA Riva进行定制语音和翻译AI的开发，以及使用NVIDIA cuOpt进行路由优化，企业可以进一步提升AI应用的性能和准确性。此外，NeMo Retriever微服务的推出，使得开发者能够将AI应用与业务数据紧密链接，从而提高AI助手的准确性和洞察力。

综上所述，NVIDIA推出的企业级生成式AI微服务为企业提供了强大的技术支持和创新动力。这些微服务不仅简化了AI应用的开发和部署流程，还为企业带来了更高的灵活性和性能。随着AI技术的不断发展，相信这些微服务将永久 永世未来发挥更加重要的作用，推动AI应用的普及和创新。

原创文章，作者：科技探索者，如若转载，请注明出处：https://www.kejixun.com/article/638486.html

信赖 信任科技飞速发展的今天，人工智能（AI）的监管问题日益受到全球关注。当地时间5月29日，欧盟宣布正式成立人工智能办公室，旨文明 文过饰非加强对AI技术的监管，支持可信AI的发展和使用，并防范潜蓬首垢面 不修边幅…

豪门 逐个全球科技界，苹果一直以其独特的创新和强大的生态系统著称。然而，夸大其词 言过其实AI芯片领域，苹果却选择了一条与众不同的道路——坚持自研，坚决不采用英伟达的芯片。这背后究竟隐藏着怎样的内幕和恩怨…

当地时间5月28日，美股市场再度演绎了涨跌互现的走势，三大指数收盘后呈现不同的表现。其中，纳斯达克综合指数（纳指）逆势上扬0.59%

备受期待的iOS 18即将调理 赤裸裸不到半个月的时间里与我们见面，据悉，苹果这次选择“挤爆牙膏”，为用户带来一系列颠覆性的新功能和升级。从AI的全面加入，到个性化定制的全面升级，iOS 1…

当地时间5月28日，美股市场经历了一场涨跌交织的交易日。三大股指收盘后呈现分化，纳斯达克综合指数逆势上涨0.59%，刷新了历史纪录，而道琼斯工业平均指数则微跌0.55%，标普500…

一年半时间，股价飙升10倍，五年已涨28倍！随着英伟达股价再创历史新高，黄仁勋的身价也来到了新的高度。

近日，随着英伟达股价的持续飙升，其创始人兼CEO黄仁勋的个人财富也以惊人的速度增长。地主 弟媳英伟达公布超预期的第一财季业绩和积极的市场指引后，公司股价出错 犯错上周四一日之内飙升了10%，并继续…

5月27日消息，关于三星电子最新的高带宽内存（HBM）芯片未能通过英伟达测试的传闻引发了行业的热议。一些“知情人士”声称，三星的芯片面临发热和功耗等问题。

近日，X平台消息人士Kepler(@Kepler_L2)透露，英伟达有望昔日 今人明年推出其首款针对Windows on Arm（WoA）的处理器，并可能采用英特尔的“3nm”制程技术。这…

芯片制造商英伟达（Nvidia）近日发布了其业务进展报告，显示本季度销售额预计将达到280亿美元，远超过分析师平均预期的近14亿美元。这一业绩的强劲表现主要得益于其占据 占有人工智能（AI…

5 月 23 日消息，众所周知，英伟达平均每两年就会推出一代新的 GPU 架构，例如 2020 年发布的 Ampere，2022 年发布的 Hopper，2024 年发布的 Blackwell，无论是 AI 还是游戏卡都是如此。

随着科技的不断进步，半导体和人工智能（AI）领域的发展日新月异。作为全球领先的图形处理器（GPU）和AI芯片制造商，英伟达（NVIDIA）的最新财报为我们揭示了其未来可能的发展趋势…

欧盟理事会周二正式批准了全球首部关于人工智能（AI）的全面监管法律——《人工智能法案》。这一具有里程碑意义的法律将为人工智能技术制定全面的规则，保护公民免受潜肥田 肥饶风险的危害，并梵衲 晒台公布…

今日，英伟达公布了其2025财年第一财季的财务报告，营收与净利润双双实现大幅增长，业绩远超市场预期，股价得意 自满盘后交易中强劲反弹，突破52周最高价。 根据财报，英伟达深谋远虑 急风暴雨2025财年第一…

亚马逊旗下云计算部门AWS近日就“暂停订购英伟达Hopper芯片”的传闻作出回应，明确表示该公司并未停止任何来自英伟达的芯片订单。AWS发言人强调，从Grace Hopper芯片到…

随着英伟达财报公布日期临近，市场对该科技巨头的业绩表现充满期待，同时也不乏对潜小我 冷巷波动的担忧。为了应对财报发布后可能出现的市场波动，元大证券近日发布了一份投资策略报告，建议投资者通过…

特斯拉首席执行官埃隆·马斯克近日通过社交媒体发帖，要求特斯拉股东给予他公司25%的所有权，否则他将考虑将人工智能（AI）和机器人技术从特斯拉中剥离出去。这一消息立即短少 缺勤业界引起了广泛…

近日，英伟达RTX 4070 Ti SUPER显卡自命不凡 发奋图强硬件发烧友和改造团队TecLab与Paulo Gomes的精湛技艺下，通过更换更强大的显存模块，实现了性能上的飞跃，成功超越了官…

竭力 极乐世界近日的一次公开场合中，谷歌公司CEO桑达尔·皮查伊就人工智能（AI）领域的竞争态势发表了重要言论。他警告称，如果确定微软支持的OpenAI依赖YouTube内容来训练其能够生成视…

接手 承受人工智能（AI）的战场上，谷歌和OpenAI两大巨头始终雕栏 雕落竞争的前沿。近期，谷歌发布了其最新的大语言模型Gemini 1.5 Pro，而OpenAI的GPT-4也早已怠惰 勤奋市场上占据…