网站首页 > 企业新品 >
Oracle 正式推出 HeatWave GenAI ,提供数据库内 LLMs 和自动化数据库内向量存储
发布时间:2024-07-02 22:42:13 · 赵法彬

近日,Oracle 宣布正式推出 HeatWave GenAI,其中包含数据库内大语言模型 (LLMs)、自动化数据库内向量存储、可扩展向量处理,以及基于非结构化内容进行自然语言上下文对话的能力。这些新功能使客户能够将生成式 AI 的强大功能应用于企业数据,不需要具备 AI 专业知识,也不需要将数据移动到单独的向量数据库中。HeatWave GenAI 将立即在所有 Oracle Cloud 区域、Oracle Cloud Infrastructure (OCI) Dedicated Region和跨云环境中提供,且无需HeatWave 客户额外付费。

444db5f1ly1hr9twf19s9j20la0d6aab


使用 HeatWave GenAI,开发人员可以使用内置的嵌入模型,通过单个 SQL 命令为企业非结构化内容创建向量存储。用户可以使用数据库内或外部 LLMs在单个步骤执行自然语言搜索。数据不必离开数据库,由于 HeatWave 具备庞大的规模和超高的性能,用户不需要预配 GPU。因此,开发人员可以降低应用的复杂性、提高性能、加强数据安全性并降低成本。 


甲骨文公司首席企业架构师 Edward Screven 表示:“HeatWave 令人惊叹的创新步伐仍在继续,将 HeatWave GenAI 添加到现有的内置 HeatWave 功能之中,包括 HeatWave Lakehouse、HeatWave Autopilot、HeatWave AutoML 和 HeatWave MySQL。当今的集成化、自动化 AI 增强功能使开发人员能够更快地构建丰富的生成式 AI 应用,而无需 AI 专业知识,也不需要移动数据。用户如今可以直观地与企业数据交互,并快速获得业务所需的准确答案。”


SmarterD 首席执行官 Vijay Sundhar 表示:“HeatWave GenAI 使利用生成式 AI 变得非常容易。对数据库内 LLMs 和数据库内向量创建的支持可显著降低应用复杂性、实现可预测的推理延迟,而且重要的是,我们无需额外付费即可使用 LLM 或是创建嵌入。这让生成式 AI 真正得以普惠大众。我们相信,这将使我们能利用 HeatWave GenAI 构建更丰富的应用,并显著提升我们客户的生产力。”


新推出的自动化和内置生成式 AI 功能包括:


数据库内 LLMs 可简化生成式 AI 应用的开发,而且成本更低。客户可以得益于生成式 AI 的强大力量,而无需承担外部 LLM 选择和集成的复杂性,也不必担心 LLMs 在各种云技术提供商的数据中心内的可用性。数据库内 LLMs 使客户能够搜索数据、生成或总结内容,并使用 HeatWave Vector Store 执行检索增强生成(RAG)。此外,客户还可以将生成式 AI 与其他内置 HeatWave 功能(例如 AutoML)相结合,以构建更丰富的应用。HeatWave GenAI 还与 OCI Generative AI 服务集成,可访问来自先进 LLM 提供商的预训练基础模型。

自动化的数据库内向量存储支持客户将生成式 AI 与业务文档结合使用,而无需将数据移动到单独的向量数据库,也不需要具备 AI 专业知识。创建向量存储和向量嵌入的所有步骤均在数据库中自动执行,包括在对象存储中发现文档,对其进行解析,以高度并行、优化的方式生成嵌入,并将它们插入到向量存储之中,从而确保 HeatWave Vector Store 高效且易用。使用 RAG 的向量存储有助于解决 LLM 的“幻觉”难题,因为模型可以搜索具有适当上下文的专有数据,从而提供更准确、更相关的答案。 

可扩展式向量处理能够以超高的效率提供语义搜索结果,同时具有准确性。HeatWave 支持新的原生 VECTOR 数据类型和距离函数的优化实现,使客户能够使用标准 SQL 执行语义查询。HeatWave 的内存混合列式表示和可扩展架构使向量处理能够以接近内存带宽的速度执行,并可在多达 512 个 HeatWave 节点之间实现并行化。这一切让客户的问题可以快速获得解答。用户还可以将语义搜索与其他 SQL 运算符结合使用,例如,连接包含不同文档的多个表,并在所有文档中执行相似性搜索。 

HeatWave Chat 是 MySQL Shell 的 Visual Code插件,为 HeatWave GenAI 提供了图形化界面,允许开发人员使用自然语言或 SQL 提问。利用集成的 Lakehouse Navigator,用户可从对象存储中选择文件并创建向量存储。用户可以在整个数据库中搜索,也可将搜索范围限制在特定文件夹中。HeatWave 利用提问历史记录、源文档的引用以及发送给 LLM 的提示来维护上下文。这有助于进行上下文对话,并允许用户验证 LLMs 生成的答案的来源。此上下文在 HeatWave 中维护,任何使用 HeatWave 的应用程序都可以使用。。 

AMD 服务器业务部门高级副总裁兼总经理 Dan McNamara 表示:“我们很高兴继续与 Oracle 密切合作,通过 HeatWave GenAI,为关键企业工作负载和数据集注入 AI 的强大功能和生产力。AMD 和 Oracle 的联合工程工作使开发人员能够利用 HeatWave GenAI,设计创新的企业 AI 解决方案,充分利用 AMD EPYC 处理器的核心密度和出色的性价比。”


EatEasy 首席执行官 Safarath Shafi 表示:“我们大量使用数据库内 HeatWave AutoML 向客户提出各种推荐方案。HeatWave 对数据库内 LLMs 和数据库内向量存储的支持是与众不同的,将生成式 AI 与 AutoML 集成的能力进一步加强了 HeatWave 在业内的差异化优势,使我们能够为客户提供新型功能。与 AutoML 的协同作用还提高了 LLM 结果的性能和质量。” 

Aiwifi 创始人 Eric Aguilar 表示:“HeatWave 数据库内 LLMs、数据库内向量存储、可扩展内存向量处理和 HeatWave Chat 是 Oracle 与众不同的功能,这促进了生成式 AI 的普及化,也让这项技术使用起来非常简单、安全且低成本。通过使用 HeatWave 和 AutoML 来满足企业需求,我们已经通过多种方式改变了我们的业务,客户正在寻求在企业内容上利用生成式 AI 的方法,而 Oracle 的这项创新可能会促进新型应用的发展,满足客户这方面的需求。”

Constellation Research 副总裁兼首席分析师 Holger Mueller 表示:“HeatWave 的工程创新继续实现通用云数据库的愿景。最新的是以 HeatWave 的风格实现了生成式 AI,包括将自动化的数据库内向量存储和数据库内 LLMs 直接集成到 HeatWave 核心之中。这使开发人员能够通过组合 HeatWave 元素来创建新类型的应用程序。例如,他们可以将 HeatWave AutoML 和 HeatWave GenAI 整合到一款欺诈检测应用之中,从而不仅可以检测可疑交易,还能提供易于理解的解释。这一切都在数据库内运行,不需要将数据移动到外部向量数据库,因此可以更好地保证数据安全性。这也让 HeatWave GenAI 在更低的成本下拥有出色的性能。” 


HeatWave

HeatWave 是一项云技术服务,在一个产品中为交易和湖仓规模分析提供自动化和集成的生成式 AI 和机器学习。作为 Oracle Distribute Cloud策略的核心部分,HeatWave 在 OCI 和 Amazon Web Services 上原生提供,在 Microsoft Azure 上通过 Oracle Interconnect for Azure 提供,在客户数据中心内通过 OCI Dedicated Region 和 Oracle Alloy 提供。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:1633373438