กลไกความสนใจ (Attention Mechanism) คืออะไร และทำงานอย่างไรในโมเดลภาษา

กลไกความสนใจคือองค์ประกอบสถาปัตยกรรมการเรียนรู้เชิงลึก (deep learning) ที่ช่วยให้โมเดลภาษาสามารถกำหนดน้ำหนักความสำคัญของคำต่างๆ แบบไดนามิกเพื่อให้ได้ผลลัพธ์ที่สมบูรณ์ด้วยบริบท

การทำความเข้าใจว่ากลไกความสนใจ (attention mechanism) คืออะไรและทำงานอย่างไรในโมเดลภาษานั้นมีความสำคัญอย่างยิ่งสำหรับผู้นำด้านเทคโนโลยีระดับองค์กรที่กำลังประเมินการลงทุนใน Generative AI ในอดีต โมเดลภาษาประสบปัญหาเรื่องความขึ้นต่อกันในระยะยาว (long-range dependencies) ทำให้สูญเสียบริบทเชิงโครงสร้างเมื่อต้องประมวลผลเอกสารทางกฎหมายที่หนาแน่น คู่มือทางเทคนิค หรือบทสนทนาที่ซับซ้อน กลไกความสนใจช่วยแก้ข้อจำกัดนี้โดยการแทนที่ขั้นตอนการทำงานซ้ำแบบลำดับ (sequential recurrent steps) ด้วยการกำหนดน้ำหนักแบบไดนามิกที่ตระหนักถึงเนื้อหา (content-aware weightings) ตลอดช่วงลำดับโทเค็น คู่มือนี้จะวิเคราะห์กลไกเชิงสถาปัตยกรรมของ self-attention ประเมินคอขวดในการปฏิบัติงาน เช่น การเพิ่มขนาดการคำนวณแบบกำลังสอง ($O(N^2)$) และมอบแนวทางปฏิบัติที่ตรวจสอบได้ให้แก่ผู้นำองค์กรเพื่อจัดการต้นทุนโครงสร้างพื้นฐาน พารามิเตอร์ความเป็นส่วนตัว และข้อจำกัดในการประเมินเพื่อแลกเปลี่ยน (trade-offs) ของการปรับใช้ได้อย่างมีประสิทธิภาพ

วิวัฒนาการ: ทำไมโครงข่ายประสาทเทียมแบบดั้งเดิมจึงล้มเหลวในจุดที่กลไกความสนใจประสบความสำเร็จ

การประมวลผลภาษาในระบบคอมพิวเตอร์จำเป็นต้องนำเสนอไวยากรณ์เชิงเวลาและโครงสร้างในรูปแบบตัวเลขที่เหมาะสมกับการดำเนินการพีชคณิตเชิงเส้น ก่อนหน้าการพัฒนาสถาปัตยกรรม Transformer ยุคใหม่ เทคโนโลยีการประมวลผลภาษาธรรมชาติ (NLP) ระดับองค์กรต้องพึ่งพาสถาปัตยกรรมประสาทแบบทำงานซ้ำ (recurrent neural architectures) เป็นอย่างมาก กรอบการทำงานเหล่านี้ แม้ว่าจะมีระเบียบวิธีที่ดีสำหรับวลีสั้นๆ แต่ก็สร้างข้อจำกัดเชิงโครงสร้างที่ขัดขวางไม่ให้ระบบขององค์กรสามารถขยายขนาดไปสู่ความเข้าใจในระดับเอกสาร การสังเคราะห์โค้ดตามโปรแกรม หรือการสนทนาโต้ตอบหลายรอบที่มีความละเอียดอ่อนได้

คอขวดของโครงข่ายประสาทเทียมแบบทำงานซ้ำ (RNN) และ LSTM

โครงข่ายประสาทเทียมแบบทำงานซ้ำ (RNN) และโครงข่ายหน่วยความจำระยะสั้นแบบยาว (LSTM) แบบดั้งเดิมจะประมวลผลข้อความตามลำดับทีละโทเค็น RNN จะรักษาเวกเตอร์สถานะซ่อนเร้นภายใน (internal hidden state vector)$h_t$ที่อัปเดตในแต่ละขั้นตอนเวลา (time step)$t$โดยอิงตามโทเค็นอินพุตปัจจุบัน$x_t$และสถานะซ่อนเร้นก่อนหน้า$h_{t-1}$:

ความขึ้นต่อกันแบบลำดับนี้ทำให้เกิดคอขวดเชิงสถาปัตยกรรมที่ไม่สามารถหลีกเลี่ยงได้ โมเดลจะต้องบีบอัดข้อมูลเชิงความหมายในอดีตทั้งหมดลงในเวกเตอร์ที่มีขนาดคงที่ เมื่อลำดับอินพุตมีความยาวหลายร้อยหรือหลายพันโทเค็น เวกเตอร์นี้จะเสื่อมประสิทธิภาพลงอย่างหลีกเลี่ยงไม่ได้ ข้อมูลเชิงความหมายในช่วงแรกจะถูกเขียนทับอย่างต่อเนื่องด้วยโทเค็นที่ตามมา ส่งผลให้เกิดปัญหาความชันอันตรธาน (vanishing gradient problem) ในระหว่างการแพร่กระจายย้อนกลับ (backpropagation)

LSTM และ Gated Recurrent Units (GRU) พยายามบรรเทาการเสื่อมประสิทธิภาพนี้ผ่านกลไกเกตภายใน (internal gating mechanisms) โดยเฉพาะอย่างยิ่ง เกตนำเข้า (input gate), เกตลืม (forget gate) และเกตส่งออก (output gate) ที่ควบคุมการไหลของข้อมูล:

แม้ว่า LSTM จะช่วยขยายหน้าต่างบริบทที่มีประสิทธิภาพจากไม่กี่สิบโทเค็นเป็นหลายร้อยโทเค็น แต่ข้อจำกัดพื้นฐานก็ยังคงอยู่ นั่นคือ การถ่ายโอนข้อมูลตามลำดับ ในทางปฏิบัติ องค์กรที่ประมวลผลสัญญาการให้บริการหลัก (master services agreement) ความยาว 40 หน้าผ่าน LSTM จะพบว่าความสามารถในการดึงข้อมูล (recall) เกี่ยวกับคำจำกัดความที่ระบุไว้ในหน้าที่สองนั้นลดลงอย่างเห็นได้ชัดเมื่อโมเดลประมวลผลไปถึงหน้าที่ยี่สิบ

นอกจากนี้ ขั้นตอนการประมวลผลแบบลำดับยังขัดขวางการทำงานแบบขนานของฮาร์ดแวร์ หน่วยประมวลผลกราฟิก (GPU) และหน่วยประมวลผลเทนเซอร์ (TPU) ยุคใหม่ช่วยเพิ่มปริมาณงานให้สูงสุดโดยการคำนวณเทนเซอร์หลายพันรายการพร้อมกัน เนื่องจาก RNN จำเป็นต้องใช้$h_{t-1}$ในการคำนวณ$h_t$, คลัสเตอร์การประมวลผลระดับองค์กรแบบกระจายศูนย์จึงไม่สามารถประมวลผลโทเค็นพร้อมกันได้ การฝึกสอนโมเดลด้วยชุดข้อมูลขนาดระดับเทราไบต์จึงมีต้นทุนการคำนวณที่สูงเกินกว่าจะยอมรับได้

การประมวลผลแบบขนาน: Transformer ปฏิวัติ NLP อย่างไร

การก้าวกระโดดเชิงโครงสร้างที่สำคัญเกิดขึ้นพร้อมกับการเปิดตัวสถาปัตยกรรม Transformer ในปี 2017 แทนที่จะส่งเวกเตอร์สถานะเชิงความหมายตามลำดับผ่านขั้นตอนเวลา Transformer จะมองลำดับโทเค็นทั้งหมดเป็นเมทริกซ์ที่เชื่อมโยงถึงกัน และประเมินความสัมพันธ์เชิงตำแหน่งไปพร้อมๆ กัน

ด้วยการกำจัดการทำงานซ้ำและหันมาใช้ self-attention แทน Transformer ช่วยให้คอร์เทนเซอร์ของ GPU สามารถคำนวณค่าแทนลักษณะ (representations) สำหรับโทเค็นทั้งหมดภายในลำดับอินพุตได้พร้อมกัน เอกสารที่มีโทเค็น 4,096 โทเค็นไม่จำเป็นต้องใช้การดำเนินการตามลำดับ 4,096 ครั้งอีกต่อไป แต่เวกเตอร์ฝังตัวของโทเค็น (token embeddings) จะถูกฉายลงในเมทริกซ์ที่สม่ำเสมอและคูณกันในการดำเนินการเทนเซอร์แบบรวม

เพื่อรักษาลำดับขั้นตอนที่เป็นธรรมชาติของภาษาไว้ Transformer จึงได้รวมการเข้ารหัสตำแหน่งที่ชัดเจน (explicit positional encodings) เข้ากับเวกเตอร์ฝังตัวของอินพุตโดยตรง สูตรทางคณิตศาสตร์ในระยะแรกอาศัยฟังก์ชันไซน์ (sinusoidal functions) ในความถี่ต่างๆ:

สถาปัตยกรรมสมัยใหม่มักใช้งาน Rotary Position Embeddings (RoPE) หรือ ALiBi (Attention with Linear Biases) ซึ่งจะหมุนหรือปรับไบแอสของตัวแทนคีย์-คิวรี (key-query representations) ตามระยะห่างสัมพัทธ์ของทอเคน การปรับเปลี่ยนทางสถาปัตยกรรมนี้ช่วยให้สามารถรันการเทรนล่วงหน้า (pre-training) ขนาดมหาศาลบนชุดข้อมูลระดับอินเทอร์เน็ตที่ไม่มีการระบุป้ายกำกับได้ ซึ่งเป็นการวางรากฐานการคำนวณสำหรับโมเดลภาษาขนาดใหญ่ (LLMs) สมัยใหม่

กลไกการทำงานเบื้องหลังของ Attention

โดยแก่นแท้แล้ว กลไก attention จะคำนวณว่าแต่ละทอเคนในลำดับควรให้ความสนใจหรือ "attend to" ทอเคนอื่น ๆ ในลำดับเดียวกันมากน้อยเพียงใด ภาษาเป็นสิ่งที่มีบริบทเฉพาะตัว คำว่า "bank" มีความหมายทางอรรถศาสตร์ที่แตกต่างกันในซอฟต์แวร์ทางการเงินเมื่อเทียบกับเอกสารวิศวกรรมโยธา กลไก attention ช่วยให้โครงข่ายประสาทเทียมสามารถอัปเดตตัวแทนตัวเลข (numerical representation) ของคำว่า "bank" ได้แบบไดนามิกตามทอเคนรอบข้างในประโยค

การเปรียบเทียบที่เข้าใจง่าย: การค้นหาในฐานข้อมูล

เพื่อทำความเข้าใจกลไกทางคณิตศาสตร์ของ attention โดยไม่ต้องพึ่งพิงความเข้าใจเชิงนามธรรม ให้ลองนึกถึงระบบการสืบค้นข้อมูลหรือการค้นหาข้อมูลในฐานข้อมูลเชิงสัมพันธ์ เมื่อทำการค้นหาฐานข้อมูลขององค์กร:

1. คุณป้อนข้อมูลเฉพาะQuery ($Q$) ซึ่งแสดงถึงข้อมูลที่คุณกำลังมองหา

2. ฐานข้อมูลจะเปรียบเทียบ Query นี้กับKeys ($K$) ซึ่งทำหน้าที่เป็นป้ายกำกับ แอตทริบิวต์ หรือเมทาดาต้าสำหรับการทำดัชนีของข้อมูลชุดนั้น ๆ

3. ระดับการตรงกันระหว่าง Query ของคุณกับแต่ละ Key จะทำให้เกิดคะแนนความเกี่ยวข้อง (relevance score)

4. ระบบจะดึงเนื้อหาจริงหรือข้อมูลที่เป็นประโยชน์ ซึ่งเรียกว่าValues ($V$) โดยมีการถ่วงน้ำหนักตามสัดส่วนของคะแนนความเกี่ยวข้องที่คำนวณได้

ในโมเดลภาษา ทอเคนทุกตัวจะทำหน้าที่เป็น Query, Key และ Value ไปพร้อมกัน เมื่อประมวลผลประโยค "The executive signed the contract because it was legally binding" สรรพนามที่กำกวมอย่าง "it" จะสร้างเวกเตอร์ Query เพื่อถามว่า "สรรพนามนี้หมายถึงสิ่งใด" ทอเคนอื่น ๆ ที่เหลือในประโยคจะส่งเวกเตอร์ Key ของตัวเองเข้ามา ซึ่งเวกเตอร์ Key ของคำว่า "contract" จะได้คะแนนความสอยคล้องทางคณิตศาสตร์ (affinity score) สูงเมื่อประเมินคู่กับ Query ของ "it" ในขณะที่เวกเตอร์ Key ของคำว่า "executive" จะได้คะแนนต่ำกว่ามาก ด้วยเหตุนี้ เวกเตอร์ Value ของคำว่า "contract" จึงถูกนำไปผสมผสานในสัดส่วนที่สูงมากในตัวแทนตามบริบท (contextual representation) ที่ได้รับการอัปเดตของคำว่า "it"

ไขความลับของ Queries, Keys และ Values

การแปลงทอเคนอินพุตดิบให้กลายเป็นตัวแทน Query, Key และ Value ที่พร้อมใช้งานนั้น เกิดขึ้นผ่านเมทริกซ์น้ำหนัก (weight matrices) ที่เรียนรู้มาแล้ว เมื่อข้อความเข้าสู่ชั้นข้อมูล attention ทอเคนแต่ละตัวจะถูกแปลงไปเป็นเวกเตอร์ตัวเลขหนาแน่น (dense numerical vector) ขนาดมิติ$d_{\text{model}}$ผ่านตารางเอ็มเบดดิง (embedding table) ร่วมกับข้อมูลตำแหน่ง (positional information)

กำหนดให้$X \in \mathbb{R}^{N \times d_{\text{model}}}$แทนเมทริกซ์ของเวกเตอร์โทเคนอินพุต โดยที่$N$คือความยาวของลำดับ โมเดลจะฉาย (project) เมทริกซ์นี้โดยใช้เมทริกซ์พารามิเตอร์ที่สามารถเรียนรู้ได้และแตกต่างกันสามชุด ดังนี้

• เมทริกซ์การฉาย Query (Query Projection Matrix):$W^Q \in \mathbb{R}^{d_{\text{model}} \times d_k}$

• เมทริกซ์การฉาย Key (Key Projection Matrix):$W^K \in \mathbb{R}^{d_{\text{model}} \times d_k}$

• เมทริกซ์การฉาย Value (Value Projection Matrix):$W^V \in \mathbb{R}^{d_{\text{model}} \times d_v}$

การคูณการแทนค่าอินพุต (input representations) ด้วยเมทริกซ์เฉพาะเหล่านี้จะสร้างปริภูมิเวกเตอร์ (vector spaces) ที่แตกต่างกันสามปริภูมิ:

เมทริกซ์การฉายเหล่านี้ไม่ใช่กฎที่ตายตัว พารามิเตอร์ของเมทริกซ์จะถูกปรับให้เหมาะสมผ่านวิธีการเกรเดียนต์เดสเซนต์ (gradient descent) ในระหว่างการฝึกฝนล่วงหน้า (pre-training) จากการเรียนรู้โทเคนหลายล้านล้านโทเคน เครือข่ายจะเรียนรู้น้ำหนักการฉายที่สามารถจับโครงสร้างทางไวยากรณ์ การอ้างถึงร่วม (coreferences) ความเชื่อมโยงทางความหมาย และการพึ่งพาทางคำศัพท์เฉพาะโดเมนได้

Scaled Dot-Product Attention: ทีละขั้นตอน

กลไกทางคณิตศาสตร์หลักของ Transformer คือฟังก์ชัน Scaled Dot-Product Attention การดำเนินการนี้จะแปลงเมทริกซ์$Q, K, V$ให้เป็นการแทนค่าตามบริบท (contextual representations) ผ่านลำดับขั้นตอนทางคณิตศาสตร์ 5 ขั้นตอน:

Input Tokens (X)
      │
      ├──────────────────────┬──────────────────────┐
      ▼                      ▼                      ▼
  [ X × W^Q ]            [ X × W^K ]            [ X × W^V ]
      │                      │                      │
   Query (Q)               Key (K)               Value (V)
      │                      │                      │
      └─────────► Dot Product (Q × K^T)             │
                       │                            │
                       ▼                            │
             Scale (/ √d_k)                         │
                       │                            │
                       ▼                            │
             Apply Mask (Optional)                  │
                       │                            │
                       ▼                            │
                 Softmax                            │
                       │                            │
              Attention Weights                     │
                       │                            │
                       └──────────────┬─────────────┘
                                      ▼
                           Weighted Sum (A × V)
                                      │
                                      ▼
                             Contextual Output

ขั้นตอนที่ 1: การคำนวณความใกล้ชิดแบบคู่ (Pairwise Affinity Calculation) ($QK^T$)

โมเดลจะคำนวณผลคูณดอต (dot product) ของเมทริกซ์ Query กับเมทริกซ์สลับเปลี่ยน (transpose) ของเมทริกซ์ Key ผลคูณดอตระหว่างเวกเตอร์หนึ่งหน่วยสองเวกเตอร์จะวัดการจัดแนวทิศทาง ค่าที่สูงกว่าจะบ่งชี้ถึงความคล้ายคลึงกันทางความหมายที่รุนแรงกว่า ผลคูณเมทริกซ์ที่ได้$S = QK^T \in \mathbb{R}^{N \times N}$จะประกอบด้วยคะแนนความเข้ากันได้ดิบ (raw compatibility scores) ระหว่างทุกคู่ของโทเคนที่เป็นไปได้ในลำดับ

ขั้นตอนที่ 2: การปรับขนาดตามความแปรปรวนของมิติ (Scaling by Dimensional Variance) ($\frac{1}{\sqrt{d_k}}$)

เมื่อมิติ$d_k$ของเวกเตอร์คีย์เพิ่มขึ้น ขนาดของผลคูณดอตจะปรับขนาดใหญ่ขึ้นตามสัดส่วน ค่าที่มากเกินไปจะส่งผลให้ฟังก์ชัน softmax ที่ตามมาเข้าสู่ขอบเขตที่มีเกรเดียนต์แบนราบอย่างยิ่ง ซึ่งทำให้เกิดปัญหาเกรเดียนต์หาย (vanishing gradient problem) ในระหว่างการแพร่ย้อนกลับ (backpropagation) เพื่อแก้ปัญหานี้ โมเดลจึงปรับขนาดผลคูณดอตโดยหารด้วยรากที่สองของมิติคีย์ ($\sqrt{d_k}$) สำหรับสถาปัตยกรรมที่$d_k = 64$คะแนนดิบจะถูกปรับขนาดด้วยปัจจัย 8

ขั้นตอนที่ 3: การทำหน้ากากเชิงสาเหตุ (Causal Masking) (โมเดลประเภท Decoder-Only)

ในโมเดลแบบออโตเรเกรสซีฟ (autoregressive models) เช่น ตระกูล GPT โทเคนจะต้องเข้าถึงโทเคนในอนาคตที่ยังไม่ได้สร้างขึ้นไม่ได้ เพื่อบังคับใช้สิ่งนี้ จึงมีการใช้หน้ากากความสนใจเชิงสาเหตุ (causal attention mask) กับคะแนนที่ปรับขนาดแล้วก่อนการดำเนินการ softmax หน้ากากจะกำหนดทุกตำแหน่งที่โทเคนเป็นอนันต์ลบ ($-\infty$) เมื่อมีการใช้ฟังก์ชัน softmax$e^{-\infty}$จะประเมินค่าได้เป็นศูนย์พอดี ซึ่งจะช่วยป้องกันไม่ให้โทเคนในอนาคตส่งผลกระทบต่อการแทนค่าของโทเคนปัจจุบันตามหลักคณิตศาสตร์

ขั้นตอนที่ 4: การทำให้เป็นบรรทัดฐานผ่าน Softmax (Normalization via Softmax)

คะแนนความใกล้ชิดที่ปรับขนาดแล้วจะถูกส่งผ่านฟังก์ชันกระตุ้น softmax ทีละแถว:

ฟังก์ชัน softmax จะแปลงคะแนนความใกล้ชิดดิบให้เป็นค่าการแจกแจงความน่าจะเป็นแบบปรับบรรทัดฐาน (normalized probability distribution) โดยที่น้ำหนักความสนใจ (attention weights) ในแต่ละแถวจะมีผลรวมเท่ากับ 1.0 พอดี ค่าเหล่านี้แสดงถึงสัดส่วนทางคณิตศาสตร์ที่แม่นยำของความสนใจที่โทเคน$i$มุ่งไปที่โทเคน$j$.

ขั้นตอนที่ 5: การรวบรวมแบบถ่วงน้ำหนักของเวกเตอร์ Value (Weighted Aggregation of Value Vectors)

ในที่สุด โมเดลจะคำนวณผลคูณเมทริกซ์ของน้ำหนักความสนใจแบบปรับบรรทัดฐาน$A$และเมทริกซ์ Value$V$เวกเตอร์ผลลัพธ์ของแต่ละโทเคนคือการรวมเชิงเส้นแบบถ่วงน้ำหนัก (weighted linear combination) ของเวกเตอร์ Value ทั้งหมดในหน้าต่างบริบท (context window):

เมทริกซ์เอาต์พุตยังคงความยาวลำดับเท่าเดิมกับอินพุต แต่การแทนค่าเวกเตอร์ของแต่ละโทเคนได้รับการอัปเดตด้วยข้อมูลที่เกี่ยวข้องกับบริบทจากตลอดทั้งลำดับอินพุต

Multi-Head Attention: การมองบริบทจากหลากหลายมุมมอง

การคำนวณความสนใจเพียงครั้งเดียว ซึ่งเรียกว่าความสนใจแบบหัวเดียว (single-head attention) นั้นมีข้อจำกัดในการแสดงออก นั่นคือจะหาค่าเฉลี่ยของความสัมพันธ์ทางความหมายที่แตกต่างกันให้อยู่ในการแทนค่าแบบถ่วงน้ำหนักเพียงชุดเดียว คำในบริบทขององค์กรธุรกิจมักมีความสัมพันธ์หลายอย่างพร้อมๆ กัน ตัวอย่างเช่น ในประโยค "Acme Corp acquired Beta LLC in London" โทเคน "acquired" มีความสัมพันธ์เชิงประธานกับ "Acme Corp" ความสัมพันธ์เชิงกรรมกับ "Beta LLC" และความสัมพันธ์เชิงสถานที่กับ "London"

Multi-Head Attention แก้ไขปัญหานี้โดยการฉายเวกเตอร์$Q$, $K$, และ$V$ไปยังปริภูมิย่อย (subspaces) ที่มีมิติต่ำกว่าหลายมิติพร้อมๆ กัน แทนที่จะคำนวณเมทริกซ์ความสนใจขนาดใหญ่เพียงเมทริกซ์เดียวที่มีขนาด$d_{\text{model}}$สถาปัตยกรรมจะแบ่งมิติของโมเดลออกเป็น$h$"หัว" (heads) ที่แตกต่างกัน:

ในที่นี้$W_i^Q \in \mathbb{R}^{d_{\text{model}} \times d_k}$, $W_i^K \in \mathbb{R}^{d_{\text{model}} \times d_k}$, $W_i^V \in \mathbb{R}^{d_{\text{model}} \times d_v}$, และเมทริกซ์โปรเจกชันเอาต์พุตสุดท้ายคือ$W^O \in \mathbb{R}^{h d_v \times d_{\text{model}}}$.

การกระจายความใส่ใจ (attention) ไปยังหลายหัว (โดยทั่วไปคือ 32 ถึง 128 หัวในโมเดลพื้นฐานระดับองค์กร) ช่วยให้แต่ละหัวมีความเชี่ยวชาญเฉพาะด้านในปรากฏการณ์ทางภาษาศาสตร์และเชิงความหมายที่แตกต่างกัน:

• หัวทางไวยากรณ์ (Syntactic heads) ทำหน้าที่ติดตามความสัมพันธ์ทางไวยากรณ์ เช่น การยึดเหนี่ยวระหว่างกริยา-กรรม และประธาน-กริยา

• หัวอ้างอิงร่วม (Coreference heads) ทำหน้าที่ติดตามการระบุสรรพนาม (pronoun resolutions) และการยึดเหนี่ยวเอนทิตีที่มีชื่อเรียก (named entity) ในประโยคที่อยู่ห่างกัน

• หัวเฉพาะโดเมน (Domain-specific heads) ทำหน้าที่ระบุรูปแบบเชิงความหมาย เช่น การจับคู่การกำหนดค่าตัวแปรกับการเรียกใช้งานในซอร์สโค้ด หรือการระบุมูลค่าทางการเงินที่เกี่ยวข้องกับภาระผูกพันตามสัญญา

หลังจากที่แต่ละหัวคำนวณเอาต์พุตบริบทที่เป็นอิสระของตนเองแล้ว เวกเตอร์ที่ได้จะถูกนำมาต่อกัน (concatenate) และโปรเจกต์ผ่าน$W^O$, เพื่อคืนค่ามิติ (dimensionality) กลับเป็น$d_{\text{model}}$ก่อนที่ข้อมูลจะส่งต่อไปยังเลเยอร์ย่อยแบบป้อนส่งล่วงหน้า (feed-forward sublayers)

บทบาทของกลไกความใส่ใจ (Attention) ในโมเดลภาษาขนาดใหญ่ (LLM) ยุคใหม่

การปรับขนาดโมเดล Transformer จากจำนวนพารามิเตอร์หลักร้อยล้านไปสู่หลักแสนล้าน ทำให้กลไกความใส่ใจกลายเป็นกลไกหลักในการขับเคลื่อนความสามารถที่เกิดขึ้นใหม่ (emergent capabilities) ของโมเดล สำหรับผู้ปฏิบัติงานในระดับองค์กร การเข้าใจความเชื่อมโยงโดยตรงระหว่างกลไกความใส่ใจกับพฤติกรรมของโมเดลเป็นสิ่งสำคัญอย่างยิ่งในการออกแบบพรอมต์ที่มีประสิทธิภาพ การจัดการหน้าต่างบริบท และการวินิจฉัยปัญหาด้านประสิทธิภาพการทำงาน

การขับเคลื่อนการเรียนรู้ในบริบท (In-Context Learning) และการออกแบบพรอมต์

มูลค่าเชิงพาณิชย์ของโมเดลพื้นฐาน (foundation models) ยุคใหม่ส่วนใหญ่มาจาก การเรียนรู้ในบริบท (in-context learning)—ความสามารถของ LLM ในการปรับตัวให้เข้ากับงานต่าง ๆ ได้แบบไดนามิกตามคำสั่งและตัวอย่างที่ระบุไว้ในพรอมต์ โดยไม่ต้องอัปเดตน้ำหนักเครือข่ายประสาทเทียมพื้นฐานของตัวโมเดลเอง

กลไกความใส่ใจเป็นตัวขับเคลื่อนความสามารถนี้ เมื่อผู้ใช้ในระดับองค์กรระบุพรอมต์แบบ few-shot ที่มีตัวอย่างการจำแนกประเภทตั๋วสนับสนุน (support ticket) สามตัวอย่าง ตามด้วยตั๋วใบใหม่ ตัวโมเดลจะไม่รันลูปการเทรน แต่เวกเตอร์ Query ที่สร้างจากตั๋วสนับสนุนใบใหม่จะพุ่งความใส่ใจ (attend) ไปยังเวกเตอร์ Key และ Value ที่สร้างขึ้นจากตัวอย่าง few-shot เหล่านั้นโดยตรง

ผ่านกลไกความใส่ใจข้ามโทเคน (cross-token attention) นี้ โมเดลจะแยกกฎการจับคู่เฉพาะสำหรับงานนั้น ๆ ออกมาจากหน้าต่างบริบทโดยตรง:

• หัวเหนี่ยวนำ (Induction Heads):นักวิจัยได้ระบุวงจรความใส่ใจแบบสองเลเยอร์ที่เฉพาะเจาะจง ("หัวเหนี่ยวนำ") ซึ่งทำหน้าที่จับคู่รูปแบบเชิงนามธรรม หากมีรูปแบบ$[A][B] \dots [A]$ปรากฏขึ้นในบริบท หัวเหล่านี้จะส่งความใส่ใจย้อนกลับไปยังตำแหน่งที่ปรากฏก่อนหน้าของ $[A]$ เพื่อพยากรณ์ว่า $[B]$ ควรจะเป็นคำถัดไป

• การยึดโยงคำสั่ง (Instruction Grounding):กลไกความใส่ใจแบบหลายหัว (Multi-head attention) จะกำหนดทิศทางความใส่ใจจากขั้นตอนการสร้างคำย้อนกลับไปยังพรอมต์ระบบ (system prompt) ทำให้ยังคงรักษาแนวทางการใช้น้ำเสียงขององค์กร รูปแบบเอาต์พุต และข้อจำกัดของโดเมนไว้ได้

• การดึงฟีเจอร์โดยนัย (Implicit Feature Extraction):พรอมต์แบบ Zero-shot จะใช้ประโยชน์จากเลเยอร์ความใส่ใจที่ผ่านการฝึกอบรมล่วงหน้าของโมเดลเพื่อคัดแยกคำที่สำคัญเชิงความหมาย โดยลดน้ำหนักคำฟุ่มเฟือยในการสนทนาโดยอัตโนมัติ และให้ความสำคัญกับคำศัพท์เฉพาะทางในโดเมนนั้น ๆ

ดังนั้น การทำวิศวกรรมพรอมต์ (prompt engineering) จึงเป็นเรื่องของการจัดโครงสร้างพื้นที่ Key-Value เป็นหลัก การจัดวางคำสั่งระบบ ตัวอย่างโดเมน และอินพุตเป้าหมายในรูปแบบที่มีโครงสร้างชัดเจน จะช่วยเพิ่มความสามารถของหัวความใส่ใจในการคัดแยกและกำหนดทิศทางข้อมูลที่เกี่ยวข้องได้ดียิ่งขึ้น

การจัดการหน้าต่างบริบทและความท้าทายเรื่อง "เข็มในมหาสมุทร" (Needle in a Haystack)

LLM ระดับแนวหน้าได้ขยายหน้าต่างบริบทจาก 2,048 โทเคนไปเป็นมากกว่า 1,000,000 โทเคน ทำให้สามารถป้อนข้อมูลซอร์สโค้ดทั้งหมด รายงานทางการเงินประจำปี และสำนวนคดีทางกฎหมายหลายเล่มได้ในการเรียกใช้งานอินเฟอเรนซ์ (inference call) เพียงครั้งเดียว อย่างไรก็ตาม หน้าต่างบริบทที่กว้างขวางนี้ก็นำมาซึ่งความละเอียดอ่อนในเชิงปฏิบัติการที่ผู้บริหารระดับองค์กรต้องพิจารณาอย่างรอบคอบ

แม้ว่าจะมีขีดจำกัดบริบทตามทฤษฎีที่สูงมาก แต่หัวความใส่ใจไม่ได้กระจายจุดโฟกัสของการคำนวณอย่างสม่ำเสมอทั่วทั้งบริบทที่ยาว การทดสอบเชิงประจักษ์เผยให้เห็นปรากฏการณ์ "หลงลืมตรงกลาง" (Lost in the Middle): โมเดลสามารถดึงข้อมูลที่อยู่บริเวณส่วนเริ่มต้นแรกสุด (ปรากฏการณ์ความเด่นชัดช่วงต้น หรือ primacy effect) หรือส่วนท้ายสุด (ปรากฏการณ์ความเด่นชัดช่วงปลาย หรือ recency effect) ของหน้าต่างบริบทที่ขยายออกไปได้อย่างแม่นยำ แต่ความถูกต้องจะลดลงเมื่อข้อมูลเป้าหมายถูกวางไว้ในช่วงหนึ่งในสามตรงกลางของเอกสาร

พฤติกรรมนี้เกิดขึ้นเนื่องจาก:

1. รูปแบบการฝังตำแหน่ง (Positional embedding) มักจะมีความลำเอียงเล็กน้อยไปยังโทเคนเริ่มต้น (ซึ่งทำหน้าที่ยึดโยงการสร้างคำ) และโทเคนล่าสุด (ซึ่งให้บริบททางไวยากรณ์ในทันที)

2. การทำนอร์มัลไลเซชันแบบ Softmax กับคีย์จำนวนหลายแสนคีย์มีแนวโน้มที่จะทำให้ค่าสูงสุดของผลคูณจุด (dot-product peaks) ดิบเจือจางลง ส่งผลให้น้ำหนักความใส่ใจที่มีค่าน้อยกระจัดกระจายไปยังโทเคนที่ไม่เกี่ยวข้องหลายพันโทเคน ซึ่งเป็นปรากฏการณ์ที่เรียกว่า การแพร่กระจายความใส่ใจ (attention diffusion)

3. พรอมต์ระบบและคำสั่งเอาต์พุตที่วางไว้ตรงกลางของเอกสารที่มีเนื้อหาหนาแน่น มักไม่สามารถสร้างคะแนนความเชื่อมโยงระหว่าง Query และ Key (Query-Key affinity scores) ที่แรงพอที่จะควบคุมเนื้อหาข้อเท็จจริงที่หนาแน่นรายรอบได้

เพื่อประเมินความถูกต้องแม่นยำ (fidelity) ของโมเดลในลำดับข้อมูลที่มีความยาว การทดสอบมาตรฐานระดับองค์กร (enterprise benchmarking) จึงพึ่งพาการทดสอบ "Needle In A Haystack" (NIAH) ในการทดสอบมาตรฐานนี้ ข้อมูลข้อเท็จจริงที่เฉพาะเจาะจงและกำหนดขึ้นมาอย่างเจาะจง ("เข็ม") จะถูกนำไปใส่ไว้ที่ระดับความลึกต่าง ๆ ภายในเอกสารขนาดยาวที่ไม่เกี่ยวข้อง ("กองฟาง") จากนั้นโมเดลจะถูกกระตุ้น (prompt) ให้ค้นหาข้อมูลดังกล่าว แม้ว่าโมเดลระดับแนวหน้า (frontier models) จะแสดงความแม่นยำในการค้นหาคืนสูงในการทดสอบ NIAH ขั้นพื้นฐาน แต่ประสิทธิภาพจะลดลงเมื่อมีการใส่เข็มหลายเล่ม หรือเมื่อพรอมต์ต้องการการคิดวิเคราะห์เชิงเหตุผลที่ซับซ้อนในส่วนต่าง ๆ ของเอกสารที่แยกจากกัน แทนที่จะเป็นการค้นหาคืนแบบตรงตามตัวอักษรอย่างง่าย

ผลกระทบต่อองค์กร: ประสิทธิภาพ ค่าใช้จ่าย และข้อจำกัด

การปรับใช้ Generative AI ภายในสภาพแวดล้อมการใช้งานจริง (production environments) จำเป็นต้องมีความสมดุลระหว่างความสามารถทางเทคนิคกับค่าใช้จ่ายในการดำเนินงาน ความหน่วงของปริมาณงาน (throughput latency) และข้อกำหนดด้านความปลอดภัย คุณสมบัติเชิงกลไกของเลเยอร์ attention จะควบคุมความเป็นจริงในการดำเนินงานเหล่านี้โดยตรง

คอขวดความซับซ้อนแบบกำลังสอง ($O(N^2)$)

ข้อจำกัดในการดำเนินงานที่สำคัญของ scaled dot-product attention มาตรฐานคือความซับซ้อนในการคำนวณและหน่วยความจำแบบกำลังสอง ซึ่งแสดงในรูปแบบสัญกรณ์ Big-O เป็น$O(N^2)$, โดยที่$N$แทนความยาวของลำดับ (sequence length)

เนื่องจากทุก ๆ ทอเคน (token) ต้องคำนวณคะแนน attention เทียบกับทอเคนอื่น ๆ ทั้งหมดในลำดับ ขนาดของเมทริกซ์ attention จึงขยายตัวในแบบกำลังสอง:

• ที่$N = 1,000$ทอเคน เมทริกซ์ attention แบบจับคู่จะประกอบด้วย$1,000^2 = 1,000,000$องค์ประกอบ

• ที่$N = 10,000$ทอเคน เมทริกซ์จะขยายตัวเป็น$10,000^2 = 100,000,000$องค์ประกอบ

• ที่$N = 100,000$ทอเคน เมทริกซ์จะขยายขนาดเป็น $10,000,000,000$ องค์ประกอบ

พฤติกรรมการขยายขนาดนี้ส่งผลกระทบต่อทั้งปริมาณงานในการคำนวณ (FLOPs) และการใช้หน่วยความจำแบนด์วิดท์สูง (high-bandwidth memory หรือ HBM) บนฮาร์ดแวร์ GPU

Token Context Length (N) vs. Pairwise Attention Operations (N^2)

Tokens (N)      Pairwise Computations (Relative Scale)
────────────────────────────────────────────────────────────────────────
 1,000 (1K)     [■] (1M elements)
 4,000 (4K)     [■■■■■■■■] (16M elements)
16,000 (16K)    [■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■] (256M elements)
32,000 (32K)    [■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■■] (1.02B elements)
────────────────────────────────────────────────────────────────────────
Impact: Memory saturation, elevated latency, and increased token pricing.

การใช้หน่วยความจำส่วนเกินของ KV Cache ในการประมวลผลคำสั่งระดับองค์กร

ในระหว่างการสร้างข้อความ (การอนุมานหรือ inference) LLM จะสร้างผลลัพธ์ในลักษณะถดถอยในตัวเอง (autoregressively) ทีละทอเคน เพื่อหลีกเลี่ยงการคำนวณเวกเตอร์ Key และ Value ของทอเคนในอดีตซ้ำใหม่ในทุกขั้นตอน เอ็นจินการอนุมาน (inference engine) จึงแคชเวกเตอร์เหล่านี้ไว้ในหน่วยความจำ GPU ซึ่งเป็นโครงสร้างการทำงานที่เรียกว่าKV Cache.

การใช้พื้นที่หน่วยความจำของ KV Cache อาจสูงเกินกว่าหน่วยความจำที่ต้องใช้ในการโหลดน้ำหนักของโมเดล (model weights) เสียด้วยซ้ำ โดยหน่วยความจำที่จำเป็นสำหรับการจัดเก็บ KV cache สามารถคำนวณได้ดังนี้:

โดยที่:

• $b$= ขนาดแบตช์ (batch size หรือคำร้องขอที่เกิดขึ้นพร้อมกัน)

• $s$= ความยาวของลำดับ (sequence length หรือบริบททั้งหมด + ทอเคนทีสร้างขึ้น)

• $l$= จำนวนเลเยอร์ของ Transformer

• $h$= จำนวนของ attention head

• $d_k$= มิติข้อมูลต่อหัว (dimension per head)

• $p$= จำนวนไบต์ตามรูปแบบความแม่นยำ (เช่น 2 ไบต์สำหรับ FP16/BF16, 1 ไบต์สำหรับ FP8)

สำหรับโมเดลขนาด 7 หมื่นล้านพารามิเตอร์ (70-billion parameter) ที่ประมวลผลแบตช์แบบพร้อมกันจำนวน 32 เซสชันของผู้ใช้ โดยแต่ละเซสชันมีบริบท 16,000 ทอเคน ในความแม่นยำแบบ FP16 เฉพาะตัว KV Cache เพียงอย่างเดียวก็ใช้พื้นที่ HBM ไปมากกว่า 100 GB ซึ่งเกินความจุของ GPU NVIDIA H100 ทั้งตัว (80 GB) ก่อนที่จะพิจารณาถึงน้ำหนักของโมเดลเสียอีก

เพื่อลดข้อจำกัดนี้ สถาปัตยกรรมระดับแนวหน้าจึงได้นำรูปแบบสถาปัตยกรรมอื่น ๆ มาปรับใช้:

• Multi-Query Attention (MQA):ใช้ Query head หลายตัว แต่ใช้ Key และ Value head ร่วมกันตัวเดียวในทุก ๆ attention head ซึ่งช่วยลดการใช้พื้นที่หน่วยความจำของ KV cache ได้สูงสุดถึง 90%

• Grouped-Query Attention (GQA):จัดกลุ่ม query head (เช่น 8 Query head ต่อ 1 Key/Value head) เพื่อให้เกิดความสมดุลระหว่างการประหยัดหน่วยความจำของ MQA และความสามารถในการแสดงแทน (representational capacity) ของ multi-head แบบมาตรฐาน

• PagedAttention และ FlashAttention:อัลกอริทึมการจัดการหน่วยความจำที่จัดสรรหน่วยความจำกายภาพ of GPU แบบไม่ต่อเนื่องกัน เพื่อขจัดปัญหาการเกิดเศษซากในหน่วยความจำ (fragmentation) และเพิ่มประสิทธิภาพการส่งผ่านข้อมูลหน่วยความจำระหว่าง SRAM และ HBM

ความเสี่ยงของอาการประสาทหลอน (Hallucination) ที่เกิดจาก Attention

อาการประสาทหลอน (Hallucinations) — ผลลัพธ์ที่คลาดเคลื่อนจากความเป็นจริง ไม่สอดคล้องกันในเชิงตรรกะ หรือไม่มีหลักฐานอ้างอิงในเอกสารต้นทาง — ถือเป็นความเสี่ยงหลักสำหรับการปรับใช้ AI ในระดับองค์กร แม้ว่าอาการประสาทหลอนมักถูกเชื่อมโยงกับช่องว่างในข้อมูลที่ใช้ฝึกฝนล่วงหน้า (pre-training data) แต่ก็อาจเกิดขึ้นจากลักษณะการทำงานของกลไก attention ได้เช่นกัน

ในเชิงกลไก อาการประสาทหลอนที่เกิดจาก attention มักมีสาเหตุมาจาก:

• การจัดวางน้ำหนัก Attention ที่ไม่ตรงจุด (Attention Weight Misalignment):การทำให้เป็นบรรทัดฐานแบบ Softmax (Softmax normalization) รับประกันว่าผลรวมของน้ำหนัก attention จะเท่ากับ 1.0 เสมอ ซึ่งเป็นการบังคับให้โมเดลต้องจัดสรรความสนใจ (attention) ไปที่ใดที่หนึ่ง แม้ว่าพรอมต์อินพุตจะไม่มีความสัมพันธ์เชิงความหมายที่มีนัยสำคัญกับบริบทที่ให้มาเลยก็ตาม โมเดลอาจกำหนดน้ำหนักที่สูงเกินจริงให้กับรูปแบบผิวเผิน เช่น คำสำคัญที่ตรงกันแต่ไม่มีความเชื่อมโยงในเชิงตรรกะแต่อย่างใด

• การพึ่งพาบริบทมากเกินไปและการโอนอ่อนผ่อนตาม (Context Over-Reliance and Sycophancy):ในภารกิจแบบ Zero-shot แบบจำลองอาจให้ความสนใจ (attend) กับข้ออ้างในพรอมต์มากเกินไป แม้ว่าข้ออ้างเหล่านั้นจะขัดแย้งกับค่าน้ำหนักข้อเท็จจริง (factual weights) ที่สร้างขึ้นระหว่างการฝึกอบรมล่วงหน้า (pre-training) โดยตรงก็ตาม หากผู้ใช้ในองค์กรใส่สมมติฐานที่ผิดพลาดเข้ามา ("สมมติว่ารายได้ในไตรมาสที่ 3 ของเราลดลง 40%...") กลไกความสนใจจะยึดโยงอยู่กับข้อความนี้ และสร้างเนื้อหาถัดจากนั้นขึ้นบนรากฐานที่ผิดพลาด

• เอนโทรปีของโทเคนและการเบี่ยงเบนของการสร้าง (Token Entropy and Generation Divergence):ในระหว่างการสร้างแบบออโตรีเกรสซีฟ (autoregressive generation) โทเคนแต่ละตัวที่ถูกสร้างขึ้นใหม่จะถูกป้อนเข้าไปในบริบทความสนใจสำหรับโทเคนถัดๆ ไป หากแบบจำลองสร้างโทเคนที่ไม่สอดคล้องขึ้นมาเพียงตัวเดียว เวกเตอร์ Query ถัดๆ ไปก็จะไปให้ความสนใจกับโทเคนที่เกิดอาการประสาทหลอน (hallucinated token) นี้ ซึ่งจะยิ่งสะสมความผิดพลาดในส่วนที่เหลือของลำดับเอาต์พุตให้ทวีคูณยิ่งขึ้น

ในการจัดการความเสี่ยงด้านการประสาทหลอนในสภาพแวดล้อมที่ให้ความสำคัญอย่างยิ่งกับการปฏิบัติตามกฎเกณฑ์ (compliance-critical environments) องค์กรต่างๆ จะต้องหลีกเลี่ยงการปฏิบัติต่อผลลัพธ์จาก LLM เสมือนเป็นการตัดสินใจที่เป็นอิสระ สถาปัตยกรรมการใช้งานจริง (production architectures) ควรนำระบบตรวจสอบข้อมูลอ้างอิงเชิงประจักษ์แบบอัตโนมัติ (automated grounding verification) การตรวจสอบความถูกต้องของสกีมาแบบดีเทอร์มินิสติก (deterministic schema validation) และจุดตรวจสอบที่มีมนุษย์ร่วมควบคุม (human-in-the-loop หรือ HITL checkpoints) มาใช้

ข้อกังวลด้านความเป็นส่วนตัวของข้อมูลในการอนุมานแบบอิงตามกลไกความสนใจ (Attention-Based Inference)

การปรับใช้แบบจำลองภาษาภายในโครงสร้างพื้นฐานขององค์กรจำเป็นต้องมีขอบเขตข้อมูลที่ชัดเจน ลักษณะการทำงานของชั้นเลเยอร์ความสนใจ (attention layer) ก่อให้เกิดข้อพิจารณาด้านความเป็นส่วนตัวของข้อมูลเฉพาะด้านที่สถาปนิกด้านเทคนิคต้องจัดการ:

• ความเสี่ยงจากการเปิดเผยข้อมูลภายในบริบท (In-Context Exposure Risks):เมื่อผู้ใช้ในองค์กรรวมข้อมูลหลายระดับชั้น (data tiers) เข้าด้วยกันในหน้าต่างบริบท (context window) ที่ใช้ร่วมกันเพียงบานเดียว (เช่น การแนบประกาศทั่วทั้งบริษัทและงบการเงินภายในเข้ากับพรอมต์) การกำหนดเส้นทางโทเคนแบบทั้งหมดถึงทั้งหมด (all-to-all) ของกลไก self-attention จะประมวลผลอินพุตทั้งหมดพร้อมๆ กัน หากการควบคุมการเข้าถึงของผู้ใช้ไม่ได้รับการบังคับใช้อย่างเข้มงวดตั้งแต่ต้นทางก่อนที่ข้อมูลจะเข้าสู่พรอมต์ แบบจำลองอาจเกิดการเชื่อมโยงความสนใจข้ามกัน (cross-attend) ระหว่างข้อมูลที่ถูกจำกัดสิทธิ์และคำถามของผู้ใช้ ซึ่งจะทำให้ข้อมูลที่ได้รับการคุ้มครองปรากฏขึ้นในคำตอบได้

• นโยบายการบันทึกข้อมูลของ API บุคคลที่สาม (Third-Party API Logging Policies):การส่งซอร์สโค้ดที่เป็นกรรมสิทธิ์ บันทึกข้อมูลลูกค้า หรือทรัพย์สินทางปัญญาไปยังเอ็นพอยต์ API เชิงพาณิชย์ จะส่งผลให้ข้อมูลมีความเสี่ยงในการส่งผ่านและการจัดเก็บข้อมูลอย่างถาวร ผู้นำด้านความเสี่ยงขององค์กรต้องตรวจสอบข้อกำหนดการให้บริการของผู้ให้บริการ โดยยืนยันว่าพรอมต์อินพุตและสถานะความสนใจที่แคชไว้ (cached attention states) จะไม่ถูกเก็บไว้เพื่อใช้ฝึกอบรมแบบจำลองใหม่ ไม่ถูกแคชอย่างไม่ปลอดภัยในหน่วยความจำถาวร หรือไม่ถูกวิเคราะห์ข้ามขอบเขตฮาร์ดแวร์แบบผู้เช่าร่วมหลายราย (multi-tenant hardware)

• การโจมตีแบบช่องทางข้างเคียงและการโจมตีแบบผันกลับ (Side-Channel and Inversion Attacks):งานวิจัยทางวิชาการแสดงให้เห็นว่า เมทริกซ์ความสนใจ (attention matrices) ภายใต้แบบจำลองภัยคุกคามเฉพาะบางประเภท สามารถถูกผันกลับบางส่วนเพื่อดึงเอาเศษเสี้ยวของพรอมต์อินพุตเริ่มต้นออกมาได้ ในสภาพแวดล้อมโฮสติ้งแบบผู้เช่าร่วมหลายรายที่มีความปลอดภัย จำเป็นต้องมีการแยกส่วนฮาร์ดแวร์ (เช่น อินสแตนซ์ GPU เสมือนที่มีขอบเขตพื้นที่ปลอดภัย หรือ secure enclave boundaries) เพื่อให้มั่นใจได้ว่าสถานะความสนใจจะไม่สามารถเข้าถึงได้ข้ามปริมาณงานของผู้เช่าร่วมที่อยู่ในตู้โฮสต์เดียวกัน

ทางเลือกยุคถัดไป: กลไกความสนใจเป็นตัวเลือกที่ดีที่สุดเสมอไปหรือไม่?

เมื่อพิจารณาถึงต้นทุนด้านโครงสร้างพื้นฐานและข้อจำกัดด้านหน่วยความจำอันเนื่องมาจากความซับซ้อนระดับจตุรัส (quadratic complexity) ของ self-attention มาตรฐาน งานวิจัยจึงได้มุ่งเน้นไปที่สถาปัตยกรรมทางเลือกที่ยังคงรักษาความเข้าใจในระดับเกรด Transformer ไว้ได้ ในขณะที่ลดความซับซ้อนในการคำนวณลงสู่ระดับเชิงเส้น ($O(N)$) หรือระดับที่ใกล้เคียงกับเชิงเส้น

กลไกความสนใจแบบเชิงเส้นและแบบจำลองพื้นที่สถานะ (Linear Attention and State Space Models หรือ SSMs)

กลไกความสนใจแบบมาตรฐานจะคำนวณ$QK^T$ก่อนที่จะคูณด้วย$V$ในทางคณิตศาสตร์ หากสามารถเปลี่ยนลำดับของการดำเนินการเป็น$Q(K^T V)$ได้ การคูณเมทริกซ์ก็จะลดความซับซ้อนในการคำนวณลงจาก$O(N^2 d)$ไปยัง$O(N d^2)$. เนื่องจาก$d$(มิติเวกเตอร์) มีค่าคงที่ ในขณะที่$N$(ความยาวลำดับ) เพิ่มขึ้น การปรับเปลี่ยนนี้ช่วยให้การทำงานขยายขนาดแบบเชิงเส้นตามความยาวของโทเค็น

อย่างไรก็ตาม เนื่องจากฟังก์ชัน softmax มาตรฐานแปลงคะแนนให้เป็นค่าปกติแบบไม่เชิงเส้นในแต่ละแถว คุณสมบัติการเปลี่ยนหมู่ของการคูณเมทริกซ์จึงไม่สามารถนำมาใช้โดยตรงได้

ทางเลือกการใส่ใจแบบเชิงเส้น (Linear attention) จะประมาณค่าหรือแทนที่เคอร์เนล softmax ด้วยฟีเจอร์แมป (feature maps)$\phi(\cdot)$, ซึ่งช่วยให้สามารถคูณแบบเปลี่ยนหมู่ได้:

บนพื้นฐานทางคณิตศาสตร์นี้State Space Models (SSMs)—ซึ่งมีสถาปัตยกรรมอย่าง Mamba เป็นตัวอย่าง—จะจับคู่ลำดับอินพุตแบบต่อเนื่อง$x(t)$ไปยังสถานะซ่อนเร้น (hidden states)$h(t)$ผ่านสมการเชิงอนุพันธ์แบบเวลาต่อเนื่อง:

การแปลงสูตรเหล่านี้ให้เป็นแบบไม่ต่อเนื่อง (Discretizing) ผ่านพารามิเตอร์ขนาดขั้นตอน (step-size parameters)$\Delta$ช่วยให้ SSM สามารถทำงานเป็นคอนโวลูชันแบบขนาน (parallel convolutions) ในระหว่างการฝึกสอน และเป็นงานสแกนซ้ำแบบเวลาเชิงเส้น (linear-time recurrent scans) ในระหว่างการอนุมาน (inference):

ด้วยการปรับเปลี่ยน $A, B$ และ$C$อย่างยืดหยุ่นตามโทเค็นอินพุต (Selective State Spaces) โมเดล Mamba จะกรองสัญญาณรบกวนที่ไม่เกี่ยวข้องออกและคงข้อมูลบริบทที่สำคัญไว้ในทุกความยาวของบริบทโดยไม่จำเป็นต้องใช้ KV cache ที่มีขนาดใหญ่ขึ้นเรื่อย ๆ ตลอดเวลา

สถาปัตยกรรมแบบไฮบริดและความก้าวหน้าครั้งสำคัญด้านประสิทธิภาพ

การใช้งานในระดับองค์กรมักต้องการการยอมแลก (trade-offs) ระหว่างประสิทธิภาพในการคำนวณกับการคิดหาเหตุผลเชิงบริบทที่ซับซ้อน โมเดล SSM แบบบริสุทธิ์ (Pure SSMs) มีความเป็นเลิศในการประมวลผลที่มีปริมาณงานสูง (high-throughput processing) บนแหล่งข้อมูลแบบสตรีมมิ่งที่มีความยาว (เช่น การวิเคราะห์ล็อก (log analytics) ฟีดเสียง และข้อมูลเซ็นเซอร์อนุกรมเวลา (time-series sensor data)) แต่การทดสอบเชิงประจักษ์แสดงให้เห็นว่าโมเดลแบบ Attention แบบบริสุทธิ์ยังคงมีประสิทธิภาพเหนือกว่าในด้านการคิดหาเหตุผลหลายขั้นตอน (multi-hop reasoning) ที่ซับซ้อน การทำงานของโค้ดในบริบท (in-context code execution) และการอ้างอิงไขว้เชิงความหมายที่หนาแน่น (dense semantic cross-referencing)

เพื่อสร้างสมดุลให้กับจุดแข็งเหล่านี้ โมเดลพื้นฐาน (foundation models) ยุคใหม่จึงเริ่มหันมาใช้งานสถาปัตยกรรมแบบไฮบริด (Hybrid Architectures)(เช่น Jamba ของ AI21 หรือไฮบริดแบบ Recurrent-Attention) โมเดลเหล่านี้จะสลับเลเยอร์ Multi-Head Attention มาตรฐานกับเลเยอร์ Mamba หรือเลเยอร์เชิงเส้น (linear layers) ภายในเครือข่ายเดียว:

• รูปแบบการตั้งค่าทั่วไปจะใช้อัตราส่วนของเลเยอร์ Attention หนึ่งเลเยอร์ต่อเลเยอร์ State-space ทุกๆ สี่ถึงแปดเลเยอร์

• เลเยอร์ State-space จะบีบอัด กรอง และส่งผ่านสถานะบริบทในวงกว้างไปยังลำดับโทเคน (token sequences) ที่ยาว โดยมีโอเวอร์เฮดของหน่วยความจำ (memory overhead) น้อยที่สุด

• เลเยอร์ Attention ที่แทรกเป็นระยะๆ จะช่วยให้มีความสามารถในการอ้างอิงไขว้แบบจับคู่ที่ชัดเจน ซึ่งช่วยรักษาประสิทธิภาพในการดึงข้อมูลแบบเชื่อมโยง (associative recall) และงานการคิดหาเหตุผลที่ซับซ้อน

แนวทางแบบไฮบริดนี้ช่วยลดขนาดพื้นที่ใช้งานของ KV-cache ที่ทำงานอยู่ ขณะเดียวกันก็ยังรักษาคุณภาพของผลลัพธ์ไว้ได้ ซึ่งช่วยให้ทีมโครงสร้างพื้นฐานระดับองค์กรมีแนวทางที่มีประสิทธิภาพสำหรับการใช้งานที่รองรับปริมาณงานสูงและบริบทที่ยาว (long-context deployments)

คู่มือกลยุทธ์การนำไปใช้งานสำหรับผู้มีอำนาจตัดสินใจทางเทคนิค (Strategic Implementation Playbook)

การผสานรวมโมเดลที่ใช้สถาปัตยกรรม Attention เข้ากับเวิร์กโฟลว์ขององค์กรจำเป็นต้องสร้างความสมดุลระหว่างความสามารถทางเทคนิคกับต้นทุนโครงสร้างพื้นฐาน ความปลอดภัยของข้อมูล และความน่าเชื่อถือในการดำเนินงาน ผู้นำทางธุรกิจและเทคโนโลยีควรเข้าถึงการนำไปใช้งานด้วยกรอบการทำงานที่เป็นระบบ

จัดตั้งเวิร์กโฟลว์การกำกับดูแลและการตรวจสอบโดยมนุษย์ (Human Oversight and Validation)

เนื่องจาก Self-attention ทำการปรับการกระจายความน่าจะเป็น (probability distributions) ให้เป็นปกติในทางคณิตศาสตร์ตามโทเคนที่มีให้ โมเดลจึงสร้างการตอบกลับที่ดูน่าเชื่อถือในทางไวยากรณ์ แม้ว่าการคิดหาเหตุผลเบื้องหลังจะผิดพลาดก็ตาม ผลลัพธ์จากการสร้าง (generative outputs) ควรได้รับการตรวจสอบความถูกต้องก่อนที่จะนำไปรวมเข้ากับไปป์ไลน์การดำเนินงานที่มีความสำคัญสูง

• กลไกควบคุมแบบกำหนดล่วงหน้า (Deterministic Guardrails):ปรับใช้ตัวตรวจสอบสกีมาแบบเขียนโปรแกรม (เช่น Pydantic, Instructor หรือ TypeChat) กับผลลัพธ์ของ LLM เพื่อรับประกันว่าเพย์โหลดที่ส่งกลับมานั้นสอดคล้องกับรูปแบบข้อมูลที่กำหนด ก่อนที่จะส่งต่อไปยังระบบปลายน้ำ (down-stream systems)

• การให้คะแนนความเชื่อมั่นและเอนโทรปีของโทเคน (Confidence Scoring & Token Entropy):เฝ้าติดตามการแจกแจงความน่าจะเป็นของล็อก (log-probability distributions) บนโทเคนผลลัพธ์ที่สำคัญ เมื่อค่าน้ำหนักของ Attention กระจัดกระจายและค่าเอนโทรปีของโทเคนผลลัพธ์เพิ่มสูงขึ้นเกินกว่าเกณฑ์ที่กำหนดไว้ ให้ส่งต่องานนั้นไปยังผู้เชี่ยวชาญที่เป็นมนุษย์โดยอัตโนมัติ

• การมีมนุษย์ร่วมกระบวนการ (Human-in-the-Loop: HITL) สำหรับการดำเนินงานภายใต้การควบคุม:ในเวิร์กโฟลว์ด้านกฎหมาย การเงิน และการดูแลสุขภาพ โมเดลควรทำหน้าที่เป็นผู้ช่วยนำทางเชิงวิเคราะห์ (analytical copilots) ที่ช่วยร่างข้อเสนอแนะ ค้นหาข้อมูลอ้างอิงเอกสารที่เกี่ยวข้อง และดึงข้อมูลที่เป็นตาราง ส่วนการอนุมัติและการดำเนินการขั้นสุดท้ายควรเป็นหน้าที่ของผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสม

ปรับการใช้งาน API ให้เหมาะสมเพื่อรับมือกับต้นทุนที่เพิ่มขึ้นแบบทวีคูณเชิงกำลังสอง (Quadratic Scaling Costs)

ขนาดของหน้าต่างบริบท (context window) ส่งผลโดยตรงต่อความต้องการทรัพยากรการคำนวณและต้นทุนโครงสร้างพื้นฐาน พรอมต์ที่ไม่มีโครงสร้าง (unstructured prompts) ซึ่งป้อนข้อความดิบปริมาณมากเข้าสู่โมเดลระดับแนวหน้า (frontier models) อาจทำให้ค่าใช้จ่าย API พุ่งสูงขึ้นจนไม่สามารถประคองได้และเกิดความหน่วงในการอนุมาน (inference latency) ที่สูงอย่างรวดเร็ว

• การคัดกรองด้วยเทคโนโลยีการเพิ่มประสิทธิภาพการสร้างข้อความด้วยการค้นหาข้อมูล (RAG Filtering):แทนที่จะโหลดเอกสารทั้งหมด 200 หน้าเข้าไปในหน้าต่างบริบทของโมเดล ให้ปรับใช้เวกเตอร์เอ็มเบดดิงที่หนาแน่น (dense vector embeddings) และการค้นหาเชิงความหมาย (semantic search) เพื่อดึงเฉพาะเนื้อหาที่เกี่ยวข้องที่สุดมาใช้ (เช่น ส่วนย่อย 5 อันดับแรกที่มีความยาวส่วนละ 500 โทเคน) วิธีนี้จะช่วยรักษาจำนวนโทเคนของพรอมต์ให้อยู่ในระดับต่ำ และช่วยลดผลกระทบจาก$O(N^2)$ต้นทุนการคำนวณ พร้อมทั้งบรรเทาปัญหาความเสื่อมถอยของ Attention แบบ "Lost in the Middle" (สูญหายไปตรงกลาง)

• การทำแคชบริบท (Context Caching):ผู้ให้บริการคลาวด์ API ยุคปัจจุบันช่วยให้นักพัฒนาสามารถแคชสถานะ KV ของพรอมต์ระบบที่เป็นแบบคงที่ (static system prompts) และเอกสารอ้างอิงพื้นฐานได้ เมื่อรันคิวรีหลายรายการกับชุดข้อมูลร่วมกัน โทเคนที่ทำแคชไว้จะถูกเรียกเก็บเงินในราคาที่ส่วนลดจำนวนมาก (มักจะต่ำกว่าเดิม 50% ถึง 75%) และประมวลผลด้วยความหน่วงที่ต่ำกว่าอย่างมีนัยสำคัญ

• การเลือกขนาดโมเดลที่เหมาะสม (Right-Sizing Model Selection):สงวนโมเดลระดับแนวหน้า (frontier models) ที่มี Multi-Head Attention อาเรย์ขนาดใหญ่ไว้สำหรับงานการคิดหาเหตุผลหลายขั้นตอน (multi-hop reasoning) การสร้างโค้ดที่ซับซ้อน และงานวิเคราะห์ที่มีความคลุมเครือ สำหรับการจำแนกประเภทที่มีโครงสร้าง (structured classification) การดึงข้อมูล และการวิเคราะห์ความรู้สึก (sentiment scoring) ให้ส่งภาระงาน (workloads) ไปยังโมเดลขนาดเล็กที่เชี่ยวชาญเฉพาะด้าน หรือสถาปัตยกรรมโอเพนซอร์สที่ได้รับการปรับแต่งอย่างละเอียด (fine-tuned open-source architectures) ซึ่งใช้ทรัพยากรในการดำเนินงานน้อยกว่า

ใช้มาตรการความเป็นส่วนตัวของข้อมูลที่แข็งแกร่งสำหรับข้อมูลที่ละเอียดอ่อน

ข้อมูลที่ส่งไปยังเอ็นจินการอนุมานที่ใช้พื้นฐานจาก Attention จะต้องได้รับการจัดการให้เป็นไปตามกรอบการคุ้มครองข้อมูลระดับองค์กร เช่น GDPR ในสหภาพยุโรป หรือการปฏิบัติตตามข้อกำหนด SOC 2 Type II ในสหรัฐอเมริกา

• การลดจำนวนข้อมูลขาเข้าและการปกปิดโทเคน (Input Data Minimization and Token Masking):ใช้งานตัวกรองการลบนามสมมติที่ระดับเอดจ์ (edge-based pseudonymization) หรือการรู้จำเอนทิตีที่มีชื่อ (Named Entity Recognition: NER) เพื่อลบข้อมูลที่ระบุตัวตนบุคคลได้ (PII) รายละเอียดบัตรชำระเงิน และข้อมูลประจำตัวที่เป็นความลับออกจากเพย์โหลดของพรอมต์ ก่อนที่ข้อมูลจะออกจากขอบเขตความปลอดภัยขององค์กร

• สิทธิ์การใช้งานระบบคลาวด์แบบแยกส่วน (Isolated Cloud Tenancy):เมื่อต้องจัดการกับข้อมูลที่มีความอ่อนไหว (sensitive data) ให้ปรับใช้โมเดลภายในโครงสร้างพื้นฐานระบบคลาวด์โดยเฉพาะ (เช่น AWS Bedrock หรือ Azure OpenAI Service ที่มีจุดเชื่อมต่อส่วนบุคคล (private endpoints)) ซึ่งข้อตกลงในการประมวลผลข้อมูลระบุไว้อย่างชัดเจนว่า ข้อมูลนำเข้าขององค์กรและสถานะความสนใจ (attention states) จะไม่มีการบันทึกเก็บไว้หรือนำไปใช้ในการฝึกฝนโมเดลพื้นฐาน (foundation model) อย่างเด็ดขาด

• โอเพนเวท (Open Weights) แบบติดตั้งในพื้นที่ (On-Premises) สำหรับทรัพย์สินทางปัญญาที่สำคัญ:สำหรับองค์กรที่จัดการกับความลับทางการค้า ข้อมูลความมั่นคงแห่งชาติ หรือบันทึกทางการเงินที่ได้รับการตรวจสอบอย่างเข้มงวด ควรโฮสต์โมเดลโอเพนซอร์สแบบควอนไทซ์ (quantized open-source models) บนคลัสเตอร์ GPU ส่วนตัว การรันอินเฟอเรนซ์ (inference) ภายในเครื่องจะช่วยรับประกันการควบคุมการแทนค่าความสนใจ (attention representations) ได้อย่างสมบูรณ์ และป้องกันไม่ให้ข้อมูลที่เป็นกรรมสิทธิ์รั่วไหลออกจากเครือข่ายขององค์กร

คำถามที่พบบ่อย

S1: ความแตกต่างหลักระหว่างกลไกความสนใจมาตรฐาน (standard attention) และกลไกความสนใจในตัวเอง (self-attention) คืออะไร?
C1: กลไกความสนใจมาตรฐานจะเชื่อมโยงสองลำดับ (sequence) ที่แตกต่างกัน เช่น ประโยคนำเข้าในภาษาหนึ่งกับผลลัพธ์การแปลในอีกภาษาหนึ่ง โดยการจับคู่สถานะตัวถอดรหัสปลายทาง (target decoder states) เข้ากับสถานะตัวเข้ารหัสต้นทาง (source encoder states) ในขณะที่กลไกความสนใจในตัวเองจะทำงานภายในลำดับเดียว โดยคำนวณคะแนนความสัมพันธ์ระหว่างคู่โทเค็น (pairwise affinity scores) ทั้งหมดภายในลำดับเดียวกันนั้น เพื่อสร้างการแทนค่าภายในที่อุดมไปด้วยบริบท

S2: เหตุใดกลไกความสนใจ (attention mechanism) จึงมีค่าใช้จ่ายในการประมวลผลสูง?
C2: กลไกความสนใจแบบสเกลดอทโปรดักต์ (Scaled dot-product attention) มีความซับซ้อนในการคำนวณและหน่วยความจำในระดับกำลังสอง (quadratic computational and memory complexity) ($O(N^2)$) เมื่อเทียบกับความยาวลำดับ (sequence length) ทุกโทเค็นจะต้องคำนวณคะแนนความสัมพันธ์แบบดอทโปรดักต์กับทุกโทเค็นอื่น ๆ ในลำดับ ส่งผลให้ความต้องการหน่วยความจำและการดำเนินการเลขทศนิยม (floating-point operations) ขยายตัวในระดับกำลังสองเมื่อพรอมต์ยาวขึ้น

S3: กลไกความสนใจแบบหลายหัว (multi-head attention) ช่วยปรับปรุงจากแบบหัวเดียว (single-head attention) อย่างไร?
C3: กลไกความสนใจแบบหลายหัวจะฉายเวกเตอร์ Query, Key และ Value ไปยังสเปซย่อยหลายมิติที่ต่ำกว่า (lower-dimensional subspaces) พร้อมกัน สิ่งนี้ทำให้โมเดลสามารถพิจารณาความสัมพันธ์เชิงบริบทประเภทต่าง ๆ ได้พร้อมกัน เช่น การติดตามโครงสร้างทางไวยากรณ์ การอ้างอิงถึง (coreferences) และความสัมพันธ์ทางความหมาย (semantic relationships) ผ่านหัวเฉพาะทางที่แตกต่างกัน

S4: KV Cache คืออะไร และเหตุใดจึงมีความสำคัญในการทำอินเฟอเรนซ์ของ LLM?
C4: KV Cache จะจัดเก็บเวกเตอร์เทนเซอร์ Key และ Value ที่คำนวณแล้วของโทเค็นก่อนหน้าในหน่วยความจำ GPU ในระหว่างการสร้างข้อมูลแบบถอยกลับอัตโนมัติ (autoregressive generation) การเก็บรักษาเวกเตอร์เหล่านี้ช่วยให้ระบบไม่ต้องคำนวณสถานะความสนใจซ้ำสำหรับโทเค็นบริบทในอดีตทั้งหมดในแต่ละขั้นตอน ส่งผลให้ความเร็วในการสร้างข้อมูลเพิ่มขึ้นอย่างมาก โดยต้องแลกกับการใช้งานหน่วยความจำ GPU ที่สูง

S5: กลไกความสนใจสามารถทำให้เกิดอาการหลอน (hallucinations) ในโมเดลภาษาได้หรือไม่?
C5: ใช่ การทำให้เป็นบรรทัดฐานแบบซอฟต์แมกซ์ (Softmax normalization) จะบังคับให้น้ำหนักความสนใจทั่วทั้งลำดับรวมกันได้ 1.0 ซึ่งอาจนำไปสู่การที่โมเดลกำหนดความสนใจให้กับโทเค็นบริบทที่ไม่เกี่ยวข้องหรือชี้นำไปในทางที่ผิด แม้ว่าจะไม่มีความสัมพันธ์ที่มีความหมายอยู่เลยก็ตาม การจัดตำแหน่งความสนใจที่ผิดพลาดเหล่านี้อาจสะสมทวีคูณตลอดช่วงลำดับที่สร้างขึ้น ส่งผลให้เกิดผลลัพธ์ที่ไม่มีข้อมูลเท็จจริงรองรับ

S6: โมเดลสเปซของรัฐ (State Space Models หรือ SSMs) แตกต่างจากทรานส์ฟอร์เมอร์สที่อิงตามกลไกความสนใจ (attention-based Transformers) อย่างไร?
C6: โมเดลสเปซของรัฐ (State Space Models) เช่น Mamba ประมวลผลลำดับข้อมูลนำเข้าในเชิงเส้น ($O(N)$) โดยใช้การแทนค่าสถานะแบบเวลาต่อเนื่อง (continuous-time state representations) แทนที่จะคำนวณเมทริกซ์โทเค็นแบบทั้งหมดต่อทั้งหมด (all-to-all token matrix) วิธีการนี้ช่วยขจัดปัญหาคอขวดของการขยายขนาดในระดับกำลังสองและไม่จำเป็นต้องขยาย KV cache อย่างไรก็ตาม โมเดลไฮบริดก็มักจะยังรวมเลเยอร์ความสนใจ (attention layers) ไว้สำหรับงานให้เหตุผลที่ซับซ้อน

S7: ปัญหา "ทำหายในระหว่างกลาง" (Lost in the Middle) ในโมเดลบริบทยาวคืออะไร?
C7: ปรากฏการณ์ "ทำหายในระหว่างกลาง" (Lost in the Middle) เกิดขึ้นเมื่อโมเดลแสดงความแม่นยำในการดึงข้อมูลสูงสำหรับข้อมูลที่อยู่ต้นหรือท้ายสุดของหน้าต่างบริบทขนาดยาว (long context window) แต่มีปัญหาในการดึงข้อมูลหรือให้เหตุผลเกี่ยวกับข้อมูลที่อยู่ตรงกลางส่วนที่สาม ความเสื่อมถอยนี้ขับเคลื่อนโดยการกระจายตัวของความสนใจ (attention diffusion) และความลำเอียงของการเข้ารหัสตำแหน่ง (positional encoding biases) บนความยาวโทเค็นที่ขยายเพิ่มขึ้น

S8: องค์กรจะลดค่าใช้จ่าย API ที่เกี่ยวข้องกับการขยายขนาดกลไกความสนใจได้อย่างไร?
C8: องค์กรสามารถลดค่าใช้จ่ายในการทำอินเฟอเรนซ์ได้โดยใช้ Retrieval-Augmented Generation (RAG) เพื่อส่งเฉพาะกลุ่มข้อความที่เกี่ยวข้องอย่างมากแทนที่จะเป็นเอกสารทั้งหมด ใช้ประโยชน์จากการแคชพรอมต์ (prompt caching) สำหรับคำสั่งที่ไม่มีการเปลี่ยนแปลง และส่งต่องานที่ง่ายกว่าไปยังโมเดลที่เล็กลงและมีความเชี่ยวชาญเฉพาะด้าน แทนที่จะใช้ LLM ระดับแนวหน้า (frontier LLMs) ขนาดใหญ่