小冰公司的前身是微软（亚洲）互联网工程院人工智能小冰团队，它是微软全球规模较大的人工智能独立产品研发团队。该团队于2013年12月在中国组建，2014年9月扩展建立日本研发分部，团队分布在北京、苏州、东京等地，其技术产品覆盖中国、日本及印度尼西亚等多个国家，商业客户遍布全球。
作为微软全球以中国为总部的人工智能产品线，小冰经过多年发展，已成为微软颇具价值的人工智能技术框架之一。小冰框架以自然语言处理（NLP）为基础，持续推动完备迭代发展，目前是全球承载交互量较大的完备人工智能框架之一，技术涵盖自然语言处理、计算机语音、计算机视觉及人工智能内容生成。
为加快小冰产品线的本土创新步伐，促进小冰商业生态环境的完善，2020年7月13日，微软宣布将小冰分拆为独立公司运营，并委任微软前全球执行副总裁沈向洋博士为新公司董事长，微软（亚洲）互联网工程院副院长李笛为执行官，研发总监陈湛为日本分部总经理。新公司继续使用中国小冰及日本Rinna品牌。
小冰框架已孵化出数以千万计的AI being，其中既有广为人知的虚拟名人，如少女小冰、Rinna，世博会参展画家夏语冰，歌手何畅、小堂妹，人类观察者MERR