LLM ¼Ö·ç¼Ç ¿£Áö´Ï¾î  °æ·Â ä¿ë

AI ±â¹Ý Áö´ÉÇü ´ëÀÀ ¼Ö·ç¼ÇÀ» Á¦°øÇÏ´Â Àü¹® ¼ÒÇÁÆ®¿þ¾î ¾÷ü

¸ðÁý ºÎ¹® ¹× ÀÚ°Ý ¿ä°Ç

¸ðÁý ºÎ¹® ´ã´ç ¾÷¹« ÀÚ°Ý ¿ä°Ç Àοø

LLM 

¼Ö·ç¼Ç

¿£Áö´Ï¾î

[´ã´ç ¾÷¹«]

- ÀÚ»ç LLM ¼Ö·ç¼Ç °³¹ß










[ÀÚ°Ý ¿ä°Ç]

- ÄÄÇ»ÅÍ °øÇÐ °ü·Ã Çаú Àü°ø 4³â Çлç ÀÌ»ó

 - ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) ÀÌÇØ

 - ÇÁ·ÒÇÁÆ® ¼³°è, üÀÎ ±¸¼º, ¼º´É Æò°¡ ¹× ÀÚµ¿È­µÈ ÇÁ·ÒÇÁÆ® Å×½ºÆ® °æÇè ¹× ´Ù¾çÇÑ ÀÔ·Â ½Ã³ª¸®¿À ±â¹Ý ±â´É/¼º´É °ËÁõ ´É·Â

 - RAG (Retrieval-Augmented Generation) ÆÄÀÌÇÁ¶óÀÎ ±¸Çö °æ·Â

- VectorDB(¿¹: FAISS, Milvus) ±â¹Ý ¹®¼­ ÀÓº£µù, À妽Ì, °Ë»ö ±â¼ú ÀÌÇØ 

- ÃֽŠÁö½Ä ¹Ý¿µ, ȯ°¢(hallucination) ¿ÏÈ­, µµ¸ÞÀÎ ÀûÀÀÀ» À§ÇÑ RAG ¼³°è ´É·Â


[¿ì´ë »çÇ×]

  - vLLM, LMCache µî LLM ¼­ºù ÃÖÀûÈ­ ¹× ÇÁ·¹ÀÓ¿öÅ© Ȱ¿ë °æÇè

  -  È¿À²Àû ¸®¼Ò½º Ȱ¿ë ¹× QoS º¸Àå °æÇè

  -  Agentic RAG ¹× Multi-Agent AI ÇÁ·¹ÀÓ¿öÅ© °æÇè

  -  HPC/Ŭ¶ó¿ìµå ±â¹Ý LLM ÀÎÆÛ·±½º ¿î¿µ °æÇè



2¸í

±Ù¹« Á¶°Ç

  • °í¿ëÇüÅÂ: Á¤±ÔÁ÷(¼ö½À±â°£ 3°³¿ù)
  • ±Þ¿©Á¶°Ç: ÇùÀÇ
  • ±Ù¹«Áö: °æ±âµµ ¼º³²½Ã ¼öÁ¤±¸ â¾÷·Î

  • [º¹¸® ÈÄ»ý]

      -  Æ÷°ýÀÓ±ÝÁ¦ ¾Æ´Ô(¹ýÁ¤ OTºñ Áö±Þ)

      -  ÅðÁ÷±Ý, 4´ëº¸Çè, ¿¬Â÷, °Ç°­°ËÁø, ÀÇ·áºñ, »ýÀϼ±¹°

      -  Åº·Â±Ù¹«Á¦, ½ºÅå¿É¼Ç ¶Ç´Â ÀÚ»çÁÖÁö±Þ(¿ì¼öÀη ´ë»ó)

ÀüÇü ´Ü°è ¹× Á¦Ãâ ¼­·ù

  • ÀüÇü´Ü°è: ¼­·ùÀüÇü > ±â¼ú¸éÁ¢ > ÃÖÁ¾ÇÕ°Ý
  • Á¦Ãâ¼­·ù: À̷¼­, ÀÚ±â¼Ò°³¼­

Á¢¼ö¹æ¹ý

  • Á¢¼ö¹æ¹ý: ÀÎÅ©·çÆ® Á¢¼ö
  • Á¢¼ö¾ç½Ä: ÀÎÅ©·çÆ® À̷¼­

±âŸ À¯ÀÇ»çÇ×

  • ÀÔ»çÁö¿ø¼­ ¹× Á¦Ãâ¼­·ù¿¡ ÇãÀ§»ç½ÇÀÌ ÀÖÀ» °æ¿ì ä¿ëÀÌ Ãë¼ÒµÉ ¼ö ÀÖ½À´Ï´Ù.

00