Skymizer 推出加速器 IP——EdgeThought，以加速LLM设计
ninehua 2024-12-15 15:58 8 浏览
据美通社5月31日报道，编译器技术和优化解决方案的先驱Skymizer宣布发布其革命性的软硬件协同设计AI ASIC IP--EdgeThought，专为加速边缘大型语言模型（LLM）而设计。这项尖端创新利用 Skymizer的先进编译器技术，在计算、内存利用率、电源效率和成本效益方面树立了新的行业基准。
EdgeThought旨在提高LLM应用程序在各种边缘设备中的性能，从物联网设备到汽车系统和AI PC/AI边缘服务器等。通过使用以编译器为中心的方法优化 EdgeThought 设计，Skymizer 的解决方案确保这些设备可以运行最先进的设备端 LLM 模型，包括最新的 Llama3 8B。
“对Skymizer来说是一个重要的里程碑，而且对整个AI和边缘计算行业来说都是一个重要的里程碑，”Skymizer首席执行官Jim Lai说。“创新的 LLM 加速器重新定义了边缘 AI 性能的可能性，使其更易于访问且具有成本效益。”
EdgeThought消除了所有软件和硬件的培训需求，只专注于推理。其结果是一流的设备端 LLM 推理引擎。“如果Groq芯片是云LLM推理之王，那么EdgeThought将成为设备上LLM推理的游戏规则改变者，”Skymizer的CMO兼执行副总裁William Wei说。“EdgeThought不需要最新的硅制造工艺，就可以实现更便宜的成熟硅类和专用存储器组件，这将在GenAI时代振兴那些更便宜的存储器行业。”
（编译：andy）
相关推荐
- 探索最佳输入法:全面测评中文输入法，助您选出最适合的工具
-
随着移动互联网的快速发展，输入法作为我们日常生活中不可或缺的工具之一，扮演着至关重要的角色。在众多中文输入法中，如何选择一款适合自己的输入法成为了许多用户关注的焦点。本文将对几款常用的中文输入法进行全...
- 开源的漫画图片文字翻译工具，多语言翻译无缝嵌入原图!
-
MangalmageTranslator是开源的漫画图片文字翻译工具,能一键翻译漫画和图片中的文字。MangaImageTranslator基于OCR技术识别文本,结合机器翻译将文字转换成目标语...
- Motrix -免费开源的跨平台全能下载工具(迅雷的代替品)
-
除了能满足一般的下载需求，还能用来下载百度网盘的文件，是时候换掉充满广告的迅雷了。关于Motrix...
- CCleaner6全版本中文免安装-理Windows顶级工具
-
CCleaner是一款由Piriform开发的清洁软件，后被Avast收购，用于清理Windows系统中的垃圾文件，优化电脑性能，保护隐私。软件下载：...
- 移除工具可用 免费分享PS2025 V26.0正式修复鹰标中文汉化破解版
-
【移除工具修复，亲测，可以使用】免费分享下载正式鹰标PS2025中文汉化破解版AdobePhotoshop2025v26.0Multilingual多国语言版...
- 这4款纯国产软件，良心且实用，一直被误认为外国人开发
-
1、WGestures（鼠标手势软件）说到“鼠标手势”大家应该略有耳闻，只需使用鼠标在屏幕上划出指定线条，即可执行对应的电脑动作，操作起来非常方便高效！...
- 中文文本纠错工具pycorrector
-
支持音似、形似错字（或变体字）纠正，可用于中文拼音、笔画输入法的错误纠正。python3开发。pycorrector依据语言模型检测错别字位置，通过拼音音似特征、笔画五笔编辑距离特征及语言模型困惑度特...
- 超简单一步汉化Pycharm工具
-
Pycharm配置中文版（无需其他第三方包）步骤总结：...
- 图片简体中文一键转为繁体，这4个工具电商小白快速上手!
-
在这样的环境下，如何快速将图片上的简体中文转为繁体中文成为了许多电商从业者的需求。针对这一需求，有许多高效、易用的工具可供使用。本文将介绍4款电商小白们常用的图片简体中文一键转繁体工具，帮助他们快速上...
- 我做Coupang的第22天:给大家推荐文字和图片翻译工具
-
俗话说，工欲善其事必先利其器。虽然咱们不懂韩语，但是有些翻译工具还是可以用的上的，今天就给大家分别推荐一下文字和图片翻译工具。一、文字翻译工具1、papago首先推荐的就是papago这款翻译软件，也...
- epic平台领取龙腾世纪:审判和龙腾世纪:审判汉化工具
-
epic平台领取龙腾世纪：审判和龙腾世纪：审判汉化工具...
- 中文视频翻译成越南语视频，我只推荐这4个好用的工具
-
在跨境电商领域，视频翻译成越南语成为一种常见的需求。而在这个过程中，AI工具的应用为语言翻译提供了便利和高效性。下面将介绍3个好用的AI工具，它们可帮助将中文视频翻译成越南语视频。1、看往ai看往...
- 如何中文图片转换为中文繁体图片?试试这4个工具!
-
在电商人的跨境业务中，将中文图片转换为中文繁体图片的方法变得越来越重要。幸运的是，有一些实用的工具可以帮助我们实现这个目标。在本文中，我们将介绍4个能够将中文图片转换为中文繁体图片的工具，可以试试看哦...