작성일 : 23-08-10 13:58
|
[클라우드컴퓨팅] [전자신문] 알리바바 클라우드, 대규모 언어 모델(LLM) 오픈소스로 공개
|
 |
|
글쓴이 :
최고관리자
 조회 : 2,261
|
 https://www.etnews.com/20230808000194 [1482] |
|
알리바바 클라우드가 70억개 파라미터를 갖춘 대규모 언어 모델(LLM) 'Qwen-7B'와 'Qwen-7B-Chat'을 오픈소스로 공개했다. 'Qwen-7B'는 2조개 이상 토큰을 사전 학습했다. 중국어·영어·기타 다국어 자료, 코드, 수학 등 전문 지식도 포괄한다. 사전 학습된 'Qwen-7B' 모델은 대규모 다중작업 언어이해(MMLU) 벤치마크에서 좋은 성과를 거두었다. 주요 사전학습 오픈소스 모델 성능을 능가했다. 인문학, 사회과학, STEM(과학, 기술, 공학, 수학), 기타 분야를 포함한 총 52개 주제를 다루고 있다.<중략>
|
