µö½ÃÅ©. ¿¬ÇÕ´º½º
[¼¿ï°æÁ¦]
ÀûÀº ÀÚ¿ø°ú ³·Àº ºñ¿ëÀ¸·Î ÀΰøÁö´É(AI) ¼º´ÉÀ» Å©°Ô ²ø¾î¿Ã¸± ¼ö ÀÖ´Â À̸¥¹Ù ¡®AI °¡¼ººñ(°¡°Ý ´ëºñ ¼º´É)¡¯°¡ »õÇØ ±Û·Î¹ú ¾÷°èÀÇ ÇÙ½É °æÀï·ÂÀ¸·Î ¶°¿Ã¶ú´Ù. ±×·¡ÇÈó¸®ÀåÄ¡(GPU)¿Í Àü·Â ºñ¿ë, °í¼º´É AI¸¦ °Ü³ÉÇÑ ±ÔÁ¦ ºÎ´ãÀÌ Ä¿ÁöÀÚ ´ë¾ÈÀ¸·Î ¼ÒÇü¡¤°æ·®Çü AI ¼ö¿ä°¡ Ä¿Áø °ÍÀÌ´Ù. 1³â Àü °¡¼ººñ °æÀï·ÂÀ» ¾Õ¼¼¿ö ¡®µö½ÃÅ© ¼îÅ©¡¯¸¦ ¾ß±âÇÑ µö½ÃÅ©´Â ¿¬ÃʺÎÅÍ ½Å±â¼úÀ» »Ë³»¸ç ÁÖµµ±ÇÀ» Áã·Á ÇÏ°í ±¹³»¿Ü °æÀï»çµéµµ °ü·Ã ´ëÀÀÀ¸·Î ¼ö
¹Ù´ÙÀ̾߱â5¸¸ ¿ä ¼±Á¡¿¡ ³ª¼¹´Ù.
4ÀÏ ±Û·Î¹ú ½ÃÀåÁ¶»ç±â°ü CBÀλçÀÌÃ÷¿¡ µû¸£¸é Áö³ÇØ Àü ¼¼°è 300¾ï ÆÄ¶ó¹ÌÅÍ(¸Å°³º¯¼ö) ¹Ì¸¸ ¼ÒÇü¾ð¾î¸ðµ¨(SLM) °³¹ß»çµéÀÇ Æò±Õ ¡®¸ðÀÚÀÌÅ© ½ºÄÚ¾î(Á¡¼ö)¡¯´Â 754Á¡À¸·Î 2024³âº¸´Ù 29Á¡ »ó½ÂÇß´Ù. ÀÌ´Â 779Á¡ÀÎ ´ëÇü¾ð¾î¸ðµ¨(LLM)¿¡ °ÅÀÇ ±ÙÁ¢ÇÑ ¼öÁØÀ̶ó°í ±â°üÀº ¼³¸íÇß´Ù. CBÀλçÀÌÃ÷¿Í
Ȳ±Ý¼º°ÔÀÓ·£µå ¹Ì±¹ ±¹¸³°úÇÐÀç´Ü(NSF)ÀÌ °øµ¿ °³¹ßÇÑ ¸ðÀÚÀÌÅ© ½ºÄÚ¾î´Â ºñ»óÀå ½ºÅ¸Æ®¾÷µéÀÇ ÅõÀÚ °¡Ä¡¸¦ ¸Å±â±â À§ÇØ »ç¾÷ ¼º°ú¿Í ÅõÀÚ À¯Ä¡, °æ¿µÁø ¿ª·® µî ½ÃÀå °æÀï·ÂÀ» Á¾ÇÕÀûÀ¸·Î Æò°¡ÇÏ´Â ÁöÇ¥´Ù. LLM À§ÁÖ¿´´ø AI ½ÃÀå¿¡¼ ÀÌÁ¦ SLMµµ ¸øÁö¾Ê°Ô Ȱ¹ßÈ÷ µµÀԵǴ ÁÖ·ù ±â¼ú·Î ÀÚ¸®¸Å±èÇß´Ù´Â ºÐ¼®ÀÌ´Ù.
LLM¿¡ µå´Â GPU¿Í Àü·Â µî ºñ¿ë ºÎ´ãÀÌ
¸±°ÔÀÓ¸ð¹ÙÀÏ Ä¿Áö¸ç SLMÀÌ ´ë¾ÈÀ¸·Î ¶°¿À¸¥ ´öÀÌ´Ù. LLMÀº °í¼º´É AI·Î¼ À¯·´¿¬ÇÕ(EU) ¡®AI¹ý¡¯, Çѱ¹ÀÇ ¡®AI ¹ßÀü°ú ½Å·Ú ±â¹Ý Á¶¼º µî¿¡ °üÇÑ ±âº»¹ý(AI±âº»¹ý)¡¯ µî AI ±ÔÁ¦ ´ë»óÀÌ µÉ ¿©Áö°¡ Å©´Ù. ÇÇÁöÄà AI ½Ã´ë ·Îº¿¡¤µå·Ð µî¿¡ žÀçÇϱâ ÀûÇÕÇÑ ¿Âµð¹ÙÀ̽º(³»ÀåÇü) AI ¸ðµ¨·Îµµ SLM ¼ö¿ä°¡ Ä¿Á³´Ù. È«Áø¹è Á¤º¸Åë½Å±âȹÆò°¡¿ø(IITP) ¿øÀåÀº ¡°
¹Ù´ÙÀ̾߱âÇÕ¹ý ´Ü¼ø ±Ô¸ð¸¦ ³Ñ¾î AI¸¦ ¾î¶»°Ô È¿À²ÀûÀ¸·Î ¾µ ¼ö ÀÖ´À³Ä¸¦ µÎ°í °æÀïÀÇ ÃàÀÌ ¿òÁ÷À̰í ÀÖ´Ù¡±¸ç ¡°´ëÇü°ú ¼ÒÇü ¿Âµð¹ÙÀ̽º ¸ðµ¨·Î ½ÃÀåÀÌ ¾çºÐµÅ ¹ßÀüÇØ³ª°¡´Â È帧ÀÌ ¿¹»óµÈ´Ù¡±°í ¸»Çß´Ù.
SLMÀ» Æ÷ÇÔÇØ ±âÁ¸ ¸ðµ¨ÀÇ ¼º´ÉÀ» À¯ÁöÇϸ鼵µ ±Ô¸ð¸¦ ÁÙÀÎ °æ·®Çü ¸ðµ¨, ÀûÀº ºñ¿ëÀ¸·Î µ¥ÀÌÅ͸¦
¸±°ÔÀÓ¹Ù´ÙÀ̾߱â ÇнÀ½Ãų ¼ö ÀÖ´Â °íÈ¿À² ÇнÀ¹ý µî °ü·Ã ½Å±â¼úÀ» ÅëÇØ AI °¡¼ººñ¸¦ ²ø¾î¿Ã¸®´Â µ¥ ¾÷°è°¡ ¾Õ´ÙÅý ³ª¼°í ÀÖ´Ù. ´ëÇ¥ ÁÖÀÚ´Â µö½ÃÅ©´Ù. ȸ»ç´Â ¡®R1¡¯ ¸ðµ¨ °ø°³ ¾à 1³â ¸¸ÀÎ Áö³´Þ 31ÀÏ(ÇöÁö ½Ã°£) »õ·Î¿î ÇнÀ¹ý ¡®¸Å´ÏÆúµå Á¦¾à ÃÊ¿¬°á(mHC)¡¯À» ¼±ºÅ´Ù. ¸ðµ¨ ÀÚ¿øÀ» 6.7%¸¸ ´Ã·Á ¼º´ÉÀº Å©°Ô ³ôÀÏ ¼ö ÀÖ´Ù´Â ¼³¸íÀÌ´Ù. ÈÄ¼Ó ¸ðµ¨ ¡®R2¡¯ Ãâ½Ãµµ ÀÓ¹ÚÇß´Ù.
¹®¼¦AI´Â ÃÖ±Ù ½Ã¸®ÁîC ÅõÀÚ·Î ¾Ë¸®¹Ù¹Ù¡¤ÅÙ¼¾Æ® µîÀ¸·ÎºÎÅÍ 5¾ï ´Þ·¯(7200¾ï ¿ø)¸¦ À¯Ä¡Çß´Ù. ÇнÀ ºñ¿ëÀÌ µö½ÃÅ©(560¸¸ ´Þ·¯)º¸´Ù ÀûÀº 460¸¸ ´Þ·¯(66¾ï ¿ø)¿¡ ºÒ°úÇÏ´Ù°í ¾Ë·ÁÁø ¸ðµ¨ ¡®Å°¹Ì K2 ¾ÅÅ·¡¯À» Áö³ ¿¬¸» °ø°³Çß´Ù. ¹Ì´Ï¸Æ½º¿Í ÁöǪAI´Â È«Äá Áõ½Ã »óÀåÀ» ÃßÁø ÁßÀÌ´Ù. ¾Õ¼ ¹Ì´Ï¸Æ½º´Â ÀÚ»ç ¸ðµ¨ ¡®M2¡¯°¡ ¾ØÆ®·ÎÇÈÀÇ ¡®Å¬·Îµå ¼Ò³×Æ®¡¯ ´ëºñ Ãß·Ð ¼Óµµ°¡ 2¹è ºü¸£Áö¸¸ ÀÌ¿ë·á´Â 8%¿¡ ºÒ°úÇÏ´Ù°í ÁÖÀåÇß´Ù. ÇÁ¶û½º ¹Ì½ºÆ®¶öÀº Áö³´Þ 30¾ï~140¾ï ¸Å°³º¯¼ö·Îµµ À̹ÌÁö ºÐ¼® µî ¸ÖƼ¸ð´Þ(´ÙÁ߸ðµ¨) ±â´ÉÀ» Áö¿øÇÏ´Â ¼ÒÇü¸ðµ¨ ¡®¹Ì´Ï½ºÆ®¶ö3¡¯¸¦ °ø°³Çß´Ù.
±¹³»¿¡¼´Â Áö³´Þ 30ÀÏ Ã¹ °ø°³µÈ ±¹°¡ ´ëÇ¥ AI ¸ðµ¨ÀÎ ¡®µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨¡¯µéÀÌ °ü·Ã ½Å±â¼úÀ» žÀçÇß´Ù. ³×À̹ö´Â 80¾ï ¸Å°³º¯¼ö¸¸À¸·Î ÅØ½ºÆ®¡¤À̹ÌÁö¡¤¿µ»ó µî ´Ù¾çÇÑ µ¥ÀÌÅ͸¦ ÅëÇÕ ÇнÀÇØ °í¼º´ÉÀ» ³¾ ¼ö ÀÖ´Â ±¹³» ù ¿È´Ï¸ð´ÞÀ» °ø°³Çß´Ù. ¾÷½ºÅ×ÀÌÁö´Â ÇнÀ ±â°£À» ±âÁ¸ 120ÀÏ¿¡¼ 66ÀÏ·Î 40% ÀÌ»ó ´ÜÃàÇÏ´Â ±â¼úÀ» ¼±ºÅ´Ù. LG AI¿¬±¸¿ø°ú NC AIµµ µö½Ãũó·³ Çʿ信 µû¶ó ÀϺΠ¸Å°³º¯¼ö¸¸ Ȱ¼ºÈÇØ ¿î¿µ ºñ¿ëÀ» ÁÙÀÌ´Â Àü¹®°¡È¥ÇÕ±¸Á¶(MoE)¸¦ äÅÃÇß´Ù. 5000¾ï ¸Å°³º¯¼öÀÇ ÃÊ°Å´ë ¸ðµ¨À» µé°í ³ª¿Â SKÅÚ·¹ÄÞµµ À̸¦ ÅëÇØ ÀÛÀº ¸ðµ¨¿¡ Áö½ÄÀ» °ø±ÞÇÏ´Â ¡®±³»ç ¸ðµ¨¡¯ ¿ªÇÒÀ» ÀÚóÇß´Ù.
³ëŸ´Â Áö³´Þ 30ÀÏ »ï¼ºÀüÀÚÀÇ ¸ð¹ÙÀÏ ¾ÖÇø®ÄÉÀ̼ÇÇÁ·Î¼¼¼(AP) ¡®¿¢½Ã³ë½º2600¡¯¿¡ ÃÖÀûÈ ±â¼úÀ» žÀçÇÏ´Â °è¾àÀ» ü°áÇß°í ½ºÄûÁîºñÃ÷µµ ÃÖ±Ù AI¸¦ °æ·®ÈÇØ Á¦°øÇÏ´Â ¼ºñ½º ¡®¿¹ÅÍ¡¯¸¦ Ãâ½ÃÇß´Ù. AI °¡¼ººñ ´ëÀÀÀÇ ¶Ç Çϳª ÃàÀº GPUº¸´Ù Àü·Â ´ëºñ ¼º´Éºñ(Àü¼ººñ)°¡ ¾Õ¼´Â ½Å°æ¸Áó¸®ÀåÄ¡(NPU) °³¹ßÀÌ´Ù. µö¿¢½º´Â Áö³´Þ 8ÀÏ ´ë±Ô¸ð ¿µ»ó Àü¿ë ÀúÀü·Â NPU ¡®DX-H1 V-NPU¡¯¸¦ Ãâ½ÃÇß´Ù. À̸¦ žÀçÇÑ ¿Âµð¹ÙÀ̽º AI ±â±â´Â ¹Ì±¹ ¼ÒºñÀÚ°¡Àü¼î(CES)¿¡¼ Çõ½Å»óÀ» ¼ö»óÇß´Ù. Ç»¸®¿À»çAIÀÇ 2¼¼´ë NPU ·¹´Ï°ÔÀ̵å(RNGD)´Â ¿£ºñµð¾Æ GPU ¡®H100¡¯º¸´Ù Àü¼ººñ°¡ 2.7¹è°¡·® ³ô´Ù. ±èÀ±¼ö ±âÀÚ sookim@sedaily.com±èÅÂÈ£ ±âÀÚ teo@sedaily.com