云端运行“小龙虾”和智能体问题重重?专访新基讯联合创始人张治:端侧承载AI的未来

进入2026年,“小龙虾”和智能体火热席卷全球。但在实际应用中,也暴露出诸多问题,例如Token(词元)消耗过大等。 生成式AI(人工智能)主要由云端发力,而“小龙虾”和智能体则更多需要云、边缘和端侧 … Continue reading 云端运行“小龙虾”和智能体问题重重?专访新基讯联合创始人张治:端侧承载AI的未来