人工智能(AI)轻量化专业初创企业Squeezebits于21日宣布,推出软件即服务(SaaS)型AI轻量化工具包“OwLite”。
OwLite以SaaS形式提供,客户公司可轻松快速地将Squeezebits的轻量化技术应用于自家产品。OwLite可使AI推理速度平均提升3.6倍,内存使用量平均改善4倍。Squeezebits表示,借此可有效降低AI服务成本。
OwLite提供从AI模型开发阶段即可评估和分析轻量化效果的功能。不仅支持模型轻量化,还支持引擎构建、性能确认、比较及分析等整体系统。同时提供推荐功能,使缺乏专业知识的用户也能轻松测试多种轻量化技术并比较分析其优缺点。
2022年3月成立的Squeezebits是一家开发轻量化技术、帮助AI相关服务高效运营的初创企业。公司以浦项工科大学研究生院深度学习加速器硬件研究团队为核心组建。联合创始团队在过去7年间于各类机器学习领域的国际学会上发表了70多篇与轻量化相关的论文。
Squeezebits掌握在保持AI模型性能的同时将32位数据量化至4位以下的技术,还拥有能够在现有硬件上高效运算量化模型的软件引擎。近来随着端侧AI的兴起,轻量化技术备受瞩目,对Squeezebits的关注也在升温。Squeezebits近期获得主要科技巨头投资,受到高度关注。在获得浦项工科大学控股公司和NAVER集团D2SF的种子轮投资后,今年1月又从Kakao集团(035720)Ventures、Samsung Next、POSCO INVESTMENT及浦项工科大学控股公司处获得25亿韩元规模的Pre-A轮投资。
Squeezebits首席执行官金亨俊表示:“正如工业革命或互联网革命那样,新技术只有成本降低才能在全社会更快普及”,“借助OwLite,将有更多AI服务企业得以降低AI运营成本,提供可持续的AI服务”。






