top of page
LLM在线推理挑战及解决方案 Session II (Efficient LLM Inference)
在这个大语言技术（LLM）蓬勃发展的时代，或许你已经对高昂的LLM inference略知一二。你是否愿意深入了解其中的技术细节呢？ 我们将从高级别的直觉方式开始，解释LLM技术的关键组件，并且探讨与其相关的挑战和实际解决方案。为了让讨论更加具体，我们还将分享具体的工程实现和相应的开源项目。 你不需要预先了解LLM技术细节，我们会通过深入浅出的技术探讨让你从中获得最大的收益。 期待你的参与！
Time & Location
Nov 18, 2023, 7:30 PM – 9:30 PM PST
https://bit.ly/40quNK4
About the event
简介：本次分享将从高级别的直觉方式开始，解释LLM技术的关键组件，并且探讨与其相关的挑战和实际解决方案。为了让讨论更加具体，我们还将分享具体的工程实现和相应的开源项目
时间：11/18 周六 7:30pm-9:30pm (PDT)
主讲人：Micheal Mi, 毕业于中国科学院软件研究所，专攻分布式计算领域，目前担任Vectorch公司的创始人。他曾担任微软、Dropbox和Pinterest的软件工程师职位，积累了超过15年的分布式系统、实时服务系统和机器学习系统的设计和开发经验。Michael对分布式系统和系统优化有着深刻的理解，曾领导团队为Pinterest的推荐系统打造了坚实的后台支持。
bottom of page