
īī¿À°¡ ±¹³» °ø°³ ¸ðµ¨ Áß ÃÖ°í ¼º´ÉÀÇ °æ·® ¸ÖƼ¸ð´Þ(ÅØ½ºÆ®·À̹ÌÁö·À½¼º·¿µ»ó µî µ¿½Ã ó¸®) ¾ð¾î¸ðµ¨°ú ±¹³» ÃÖÃÊÀÇ MoE(Mixture of Experts) ¸ðµ¨À» ¿ÀǼҽº(°³¹æÇü)·Î °ø°³Çß´Ù.
īī¿À´Â °ø°³µÈ ¸ðµ¨ÀÌ 'Ä«³ª³ª-1.5-v-3b'¿Í 'Ä«³ª³ª-1.5-15.7b-a3b'¶ó°í 24ÀÏ ¹àÇû´Ù.
ÇØ´ç ¸ðµ¨Àº ±Û·Î¹ú ÀΰøÁö´É(AI) Ç÷§Æû Çã±ëÆäÀ̽º¸¦ ÅëÇØ Á¦°øµÈ´Ù.
īī¿À´Â Áö³ 5¿ù īī³ª-1.5 4Á¾À» °ø°³Çߴµ¥ µÎ ´Þ¸¸¿¡ Ãß°¡ ¸ðµ¨À» ¿ÀǼҽº·Î °ø°³Çß´Ù.
Á¤ºÎ°¡ ÃßÁøÇÏ´Â 'µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ ÇÁ·ÎÁ§Æ®'¿¡ Âü¿©ÇÑ Ä«Ä«¿À´Â ÀÚü ¸ðµ¨ °³¹ß ¿ª·® µîÀ» Åä´ë·Î Àü ±¹¹ÎÀÇ AI Á¢±Ù¼ºÀ» ³ôÀδٴ ¹æÄ§ÀÌ´Ù.
Ä«³ª³ª-1.5-v-3b´Â À̹ÌÁö Á¤º¸ ÀÌÇØ ¹× Áö½Ã ÀÌÇà ´É·ÂÀ» °®Ãá °æ·® ¸ÖƼ¸ð´Þ ¾ð¾î¸ðµ¨·Î, Ä«³ª³ª 1.5¸¦ ±â¹ÝÀ¸·Î ÇÑ´Ù.
À̹ÌÁö Á¤º¸¸¦ Ȱ¿ëÇÑ Áú¹® ÀÌÇØ ¹× Áö½Ã ÀÌÇà ´É·ÂÀÌ °Á¡ÀÌ´Ù.
ƯÈ÷ Çѱ¹¾î·¿µ¾î ±â¹Ý À̹ÌÁö ÀÌÇØ ´É·Â¿¡¼ ¶Ù¾î³ ¼º´ÉÀ» º¸À̸ç, īī¿À´Â ÀÌ ¸ðµ¨ÀÇ ¼öÁØÀÌ GPT-4o¿¡ ÇÊÀûÇÑ´Ù°í Æò°¡Çß´Ù.
Çѱ¹¾î º¥Ä¡¸¶Å©¿¡¼´Â À¯»ç »çÀÌÁîÀÇ ±¹³»¿Ü °ø°³ ¸ðµ¨ Áß ÃÖ°í ¼º´ÉÀ» ±â·ÏÇß°í, ¿µ¾î º¥Ä¡¸¶Å©¿¡¼µµ ÇØ¿Ü ¿ÀǼҽº ¸ðµ¨°ú À¯»çÇÑ ¼öÁØÀÇ °á°ú¸¦ ³ªÅ¸³Â´Ù.
Áö½Ã ÀÌÇà ¼º´ÉÀÇ °æ¿ì, ±¹³» °ø°³µÈ À¯»ç ±Ô¸ðÀÇ ¸ÖƼ¸ð´Þ ¸ðµ¨ ´ëºñ 128%¿¡ ´ÞÇÏ´Â ¼º´ÉÀ» º¸¿´´Ù.
ÀÌ ¸ðµ¨Àº ¡âÀ̹ÌÁö ¹× ¹®ÀÚ ÀÎ½Ä ¡âµ¿È·½Ã âÀÛ ¡â¹®ÈÀ¯»ê ¹× °ü±¤Áö ÀÎ½Ä ¡âµµÇ¥ ÀÌÇØ ¡â¼öÇÐ ¹®Á¦Ç®ÀÌ µî ´Ù¾çÇÑ ºÐ¾ß¿¡ À¯¿¬ÇÏ°Ô È°¿ë °¡´ÉÇÏ´Ù.
ÇÔ²² °ø°³µÈ Ä«³ª³ª-1.5-15.7b-a3b´Â MoE ±¸Á¶¸¦ äÅÃÇϰí ÀÖ´Ù.
±âÁ¸ ¸ðµ¨ÀÌ ¸ðµç ÆÄ¶ó¹ÌÅ͸¦ µ¿½Ã¿¡ ¿¬»êÇÏ´Â °Í°ú ´Þ¸®, MoE´Â ÀÔ·Â µ¥ÀÌÅÍÀÇ Æ¯¼º¿¡ µû¶ó ÃÖÀûÈµÈ ÀϺΠÀü¹®°¡ ¸ðµ¨(Experts)¸¸À» Ȱ¼ºÈÇÏ´Â ¹æ½ÄÀÌ´Ù.
À̸¦ ÅëÇØ ÄÄÇ»ÆÃ ÀÚ¿øÀ» È¿À²ÀûÀ¸·Î Ȱ¿ëÇϰí, ó¸® ºñ¿ëÀ» ÁÙÀÌ´Â µ¥ À¯¸®ÇÏ´Ù.
MoE´Â ÇöÀç ±Û·Î¹ú AI ¾÷°è¿¡¼ ÁÖ¿ä °³¹ß Æ®·»µå·Î ÀÚ¸®Àâ°í ÀÖ´Ù.
īī¿À´Â À̹ø ¿ÀǼҽº °ø°³¸¦ ÅëÇØ ±¹³» AI ¸ðµ¨ »ýŰèÀÇ ¹ßÀü°ú ±â¼ú ÀÚ¸³À» µ¿½Ã¿¡ µµ¸ðÇÒ °èȹÀÌ´Ù.
¾ÆÁÖ°æÁ¦=¹é¼Çö ±âÀÚ qortjgus0602@ajunews.com
<º» ÄÜÅÙÃ÷ÀÇ ÀúÀÛ±Ç ¹× ¹ýÀû Ã¥ÀÓÀº ¾ÆÁÖ°æÁ¦(www.ajunews.com)¿¡ ÀÖÀ¸¸ç, »Ë»Ñ´Â Á¦ÈÞ¸¦ ÅëÇØ Á¦°øÇϰí ÀÖ½À´Ï´Ù.>