libargus:零分配原生AI推理运行时,为Java 22+带来多模态处理新体验!

📅 2026/7/16 11:29:57
libargus:零分配原生AI推理运行时,为Java 22+带来多模态处理新体验!
导航菜单切换导航可进行登录、外观设置等操作。平台包括AI代码创作、开发者工作流、应用程序安全和探索更多等方面。其中AI代码创作有GitHub Copilot、GitHub Copilot应用、MCP注册表开发者工作流涵盖Actions、Codespaces、Issues、代码审查应用程序安全包含GitHub高级安全、代码安全、密钥保护探索更多有为何选择GitHub、文档、博客、更新日志、市场。解决方案按公司规模划分有企业版、中小型团队版、初创企业版、非营利组织版按用例划分有应用现代化、DevSecOps、DevOps、CI/CD按行业划分有医疗保健、金融服务、制造业、政府机构。资源按主题探索有AI、软件开发、DevOps、安全按类型探索有客户故事、活动与网络研讨会、电子书与报告、商业洞察、GitHub技能支持与服务包括文档、客户支持、社区论坛、信任中心、合作伙伴。开源项目社区方面有GitHub赞助项目包括安全实验室、维护者社区、加速器、GitHub Stars、存档计划代码仓库有主题、热门趋势、集合。企业版企业解决方案是企业平台可用附加组件有GitHub高级安全、Copilot for Business、高级支持。定价可查看定价相关内容。搜索功能可搜索代码、仓库、用户、问题、拉取请求等还有搜索语法提示。提供反馈用户可提供反馈包含电子邮件地址以便联系会阅读每一条反馈并认真对待。保存的搜索使用保存的搜索可更快筛选结果要查看所有可用限定符可参阅文档。登录与注册可进行登录和注册操作还有外观设置、会话刷新提醒等。ProjectArgus-cc/libargus.cc项目该项目公开有通知、分叉、加星等操作还有代码、问题、拉取请求、操作、项目、安全与质量、洞察等导航选项。主分支有分支和标签可前往文件查看代码等。文件夹和文件展示了文件夹和文件的相关信息包括名称、最后提交消息、最后提交日期等。最新提交有19次提交记录。仓库文件导航有README、MIT许可证等更多项目介绍了libargus。libargus介绍libargus是无管理、零分配的原生AI执行运行时将视觉、语音和大语言模型计算管道整合在单个Project Panama外部函数与内存边界之后。v1.0.0稳定版统一硬件编排与零分配ABI是超精简、高性能、与模型无关的推理包装器整合多种管道到单个进程全局的原生执行运行时。它直接构建在GGML和llama.cpp (libmtmd)计算引擎之上提供统一、线程安全的C API与JDK 22 Project Panama外部函数与内存API结构对齐。核心架构支柱包括进程全局后端单一性、解耦权重与执行、前沿多模态投影器、无管理视频迭代管道、仅指针的FFM对齐、绝对零复制内存边界、选择性并发锁定、推测性和多令牌预测MTP加速、键值KV缓存量化、零分配词汇表和GGUF元数据内省。代码库拓扑结构展示了libargus代码库的结构包括CMakeLists.txt、include、src、bindings/java等目录及相关文件。构建与依赖架构libargus采用纯净源代码配置利用CMake级别的构建层供应商管理摒弃不必要的依赖项上游组件在无管理编译过程中下载、配置并静态链接。编译矩阵可通过执行目标生成命令编译高度优化的共享二进制目标。快速入门惯用的Java开发者体验介绍了文本与音频转录、前沿多模态提示、逐帧视频流处理、提取语义文本嵌入、模型元数据与词汇表内省、与模型无关的对数几率偏差采样等Java API使用模式。验证与测试套件可通过运行原生和Java集成测试管道验证无管理张量边界合规性和多模型处理线程可重入性。工程方法与开发速度libargus在一个连续冲刺阶段完成架构设计、工程实现并达到稳定发布。采用人工核心和AI核心明确分工的方法将AI视为高级文本编译器加速零分配、机械协同的系统代码交付。上游集成与项目路线图libargus作为低延迟、对性能要求极高的JVM平台的第0层进行设计通过Project Panama提供零分配原生张量编排所需的原始计算基础。可访问主项目组织的主页查看高级路线图。许可与归属libargus以MIT许可证开源发布集成并链接了源自llama.cpp和whisper.cpp的计算张量原语。关于libargus是统一的、无管理的多模态运行时为Java 22提供零分配原生AI推理。介绍了主题、资源、许可证等内容。加载错误提示出现加载错误时可请重新加载此页面。活动与相关信息有活动、自定义属性、加星数、关注者、分叉数、举报仓库、发布版本、包、贡献者、语言等相关信息。页脚有页脚导航包括条款、隐私、安全、状态、社区、文档、联系我们、管理Cookie、不共享个人信息等内容此时可能无法执行某些操作。