“亚马逊云科技所提供的一系列服务让生成式人工智能应用的开发变得更加便捷，在这样的平台上构建让我们可以持续推动AI与区块链的结合，在WEB3.0生态中提供更多高质量的优秀应用。”
William Wang—IOST AI LABS 负责人
IOST AI LABS致力于推动 IOST 全球开发者之间的协同合作，共同构建 N+1区块链创新生态同盟，探索区块链 + AI 赋能 WEB3.0 智能化创新发展的未来。在亚马逊云科技合作伙伴伊克罗德的协助下，IOST AI LABS借助亚马逊云科技一系列面向人工智能场景优化的服务完成了涉及 NFT 生成、定制模型、机器学习、智能音视频处理以及链游、DeFi 等诸多领域的内外部应用的测试、开发及部署。IOST AI LABS所采用的亚马逊云科技服务包括 Amazon EC2、Amazon Inferentia、Amazon Bedrock、Amazon SageMaker等。
采用的亚马逊云科技服务 为什么使用亚马逊云科技？
Amazon EC2 面向人工智能应用提供优化与良好的性价比
Amazon Inferentia 提供从基础模型构建到托管机器学习平台的丰富服务
Amazon Bedrock 经验成熟的合作伙伴提供从技术到商务上的支持
Amazon SageMaker
关于IOST AI LABS
IOST AI LABS由IOST在2023年4月25日创立，旨在推动 IOST 全球开发者之间的协同合作，共同构建 N+1区块链创新生态同盟，探索区块链 + AI 赋能 WEB3.0 智能化创新发展的未来。实验室团队主要由 AI 算法及大语言模型（Large Language Models，LLMs）领域的资深研究专家和 IOST 核心技术开发人员组成。
业务需求与挑战
为促进 IOST 全球开发者之间的协同合作，IOST AI LABS分列组建了多个“专项测试研发团队”，支撑开展对大规模密集型计算、大数据训练、标准化服务模式、环境状态感知、计算机视听觉测试、生物特征识别、人机交互模式、机器翻译等方向的研究开发，以建设一站式数字化、智能化新型 AI 应用创新平台，并形成相关专利软著、行业标准及产品范式。不仅如此，IOST AI LABS也将助力IOST 的 AI 子链 ——AI Native 链生态建设的不断完善。联合全球生态合作伙伴在链上协同开发算力系统、环境部署、数据训练、算法的迁移和优化等技术服务，为企业的数字化转型、智能化升级、融合化创新提供更加便捷、安全的“AI 赋能新引擎”。
“我们所关注的重点是IOST AI 子链的搭建与完善，以吸引更多需要‘区块链+’赋能与 ‘AI+’增效的项目、团队加入到 IOST 的生态中，并打造‘人工智能即服务’模式，为用户提供一个简单易用、高效率、全流程的一站式 AI 服务平台。”IOST AI LABS 负责人 William Wang 说，“AI领域的竞争也变得愈加激烈，因此我们更需要找到一个合适的伙伴，基于强大的云平台来完成构建。”
为什么选择亚马逊云科技（Amazon Web Services）
基于自身的业务发展需求，IOST AI LABS在成立伊始就选择了亚马逊云科技，并选择亚马逊云科技合作伙伴伊克罗德为人工智能相关服务与应用的构建提供支持。之所以做出这样的决策，在IOST AI LABS看来，亚马逊云科技与其他云服务提供商相比具备以下优势：
面向人工智能应用提供优化与良好的性价比
过去数年中IOST已经借助亚马逊云科技的全球基础设施面向世界各地的用户提供多种WEB 3.0应用。在IOST AI LABS成立后，团队也坚信可以在亚马逊云科技上将WEB 3.0与人工智能进行深度融合。在人工智能优化方面，Amazon Inferentia2 加速器在性能和功能方面提供了显著的飞跃。与前代相比，Inferentia2 的吞吐量提高了 4 倍，延迟低至前者的 1/10。IOST AI LABS采用基于 Inferentia2 的 Amazon Elastic Compute Cloud（Amazon EC2） Inf2 实例能够为DL推理和生成式人工智能应用程序提供更高的性能，并消耗更低的成本。并且Amazon EC2 Inf2 实例经过优化，能够满足例如大型语言模型 (LLM) 和视觉转换器等复杂模型的大规模部署需求。
提供从基础模型构建到托管机器学习平台的丰富服务
亚马逊云科技在人工智能领域不断加大投入并将创新服务提供给用户。全新推出的Amazon Bedrock允许用户通过API 访问来自AI21 Labs、Anthropic、Stability 与亚马逊云科技的基础模型。在IOST AI LABS看来，Amazon Bedrock 是使用基础模型构建和扩展生成式人工智能应用的简单方式，能够极大的降低前期开发门槛。“Amazon Bedrock 能够针对特定任务微调模型，无需标注大量数据，我们目前正将系列 AI 产品、服务的相关描述同步到Amazon Bedrock，之后它能够自动为这些产品、服务生成各类有效内容，非常的便捷。” William Wang 谈到。在机器学习方面，Amazon SageMaker Studio 为IOST AI LABS提供了一个基于 Web 的单一视觉界面，让实验室可以在其中执行所有机器学习开发步骤，并且对于构建、训练和部署模型所需的每个步骤都提供了完整的访问、控制权和可见性，让IOST AI LABS能够在各个步骤之间快速移动，加速机器学习的效率。
经验成熟的合作伙伴提供从技术到商务上的支持
在IOST AI LABS看来，机器学习与人工智能的应用具有前期投入大，算力要求高以及算法模型众多难以选择等问题。在探索人工智能应用的过程中如果有专业的合作伙伴支持可以减轻团队在研发上的成本和时间，也能够让应用的架构更加完善。亚马逊云科技合作伙伴伊克罗德在WEB 3.0以及AIGC上的丰富客户服务经验成为IOST AI LABS选择其作为服务合作伙伴的重要原因。“伊克罗德所提供的基于文字生成图像的AIGC解决方案也已经在亚马逊云科技Marketplace上架，并且也有国际化的视野与经验，这些经验和专业的服务在生成式AI产品以及服务的集成开发方面为我们提供了非常大的帮助，也极大的缩短了我们预期运营的时间，加速服务的上线，并通过一系列的商务支持来帮助我们节约在AIGC场景中探索的成本。” William Wang说。
获得的成效
借助亚马逊云科技的全球基础设施与亚马逊云科技伊克罗德所提供的专业技术服务，IOST AI LABS在探索生成式人工智能与区块链应用结合的过程中简化了开发难度，让服务可以快速投向市场，并在这一过程中让IOST AI LABS获得了多方面的成效：
首先是大幅缩短了模型的训练时间并借助生成式人工智能提升NFT创作效率。
IOST AI LABS在伊克罗德的协助下采用Amazon EC2 Trn1 实例将训练最大规模的深度学习模型所需的时间从几个月缩短到几周甚至几天，极大降低了人工智能相关产品及服务的开发、搭建、运维成本。IOST AI LABS也尝试通过利用 Amazon EC2 Inf2 将部分模型的吞吐量提升至原来的3至4倍，在AI创新的过程中进一步提升效率。在应用层创新上，通过将生成式人工智能与NFT的结合，IOST AI LABS也将原来需要数周处理的原画创作缩短至数小时，结合上链与确权，为版权合作方提供更高效的发行体验。目前IOST AI LABS已经基于Amazon SageMaker 、AI 大模型与亚马逊云科技生成式人工智能云基础设施（Amazon EC2 Trn1n 和 Amazon EC2 Inf2），完成了涉及 NFT 生成、定制模型、机器学习、智能音视频处理以及链游、DeFi 等诸多领域的内外部应用的测试、开发及部署。
在亚马逊云科技的持续赋能下，IOST AI LABS成功搭建了区块链与人工智能相结合的基础数据平台，实现了区块链技术和 AI 技术的多维度、深层次融合，完成了系列 AI 产品在绘图创作、视频、设计等层面的相关概念验证与演示。与此同时IOST AI LABS也借助亚马逊云科技的服务进一步完善了区块链 + AI 的基础设施建设与系统运作模式，对部分产品、服务的多云支持、多链支持效果进行了多次集成开发与测试，使其不仅能够服务于IOST自身的业务，也能够在完成最终的公共测试后，IOST AI LABS将正式面向C端与B端的用户推出系列 IOST AI 产品及服务，让AI成为服务IOST业务发展的新动力。
此外，亚马逊云科技合作伙伴伊克罗德秉持以客户为中心的服务理念也在商务层面上通过专业的服务与云成本优化能力帮助IOST AI LABS实现了整体的成本节约。“伊克罗德的费用优化计划作为一项免费的增值服务让我们在云成本管理方面获得了更多的洞察力，尤其是在机器学习与模型训练相关的成本控制上，得益于伊克罗德专业服务，我们可以了解到最新的亚马逊云科技优惠计划并通过预留实例在实现成本节约的同时满足我们对算力的需求。” William Wang谈到。
展望未来，IOST AI LABS将与亚马逊云科技合作伙伴伊克罗德继续加深合作，基于亚马逊云科技的Amazon SageMaker、AI大模型与生成式AI云基础设施联合探索运用区块链、AI等实现技术生态创新，推动IOST AI子链的构建与完善，并持续加速IOST链上生成式AI相关产品及服务的开发与集成，为用户提供安全、可靠、稳定的WEB 3.0应用体验。
关于伊克罗德
伊克罗德为一家Born-In-Cloud 云原生的咨询服务公司，为企业提供云端架构咨询、项目迁移、混合云环境托管、培训与多样化的上云解决方案，服务全球企业超过数千家，客户横跨互联网、媒体、游戏、电商零售、制造、汽车、金融科技、社交应用等行业。同時作为亚马逊云科技的核心级服务合作伙伴，伊克罗德专业提供亚马逊云科技的顾问咨询与技术⽀持服务，与亚马逊云科技在全球范围内展开深度合作，团队拥有数百张亚马逊云科技专业架构师证照，并先后荣获亚马逊云科技的云迁移、云安全、云托管、物联网、数据分析、机器学习、SAP、DevOps等多项能力资质。
