ดังนั้นการแคชจึงช่วยเพิ่มประสิทธิภาพในขณะที่เข้าถึงทรัพยากรได้สองวิธี:

• ลดเวลาในการเข้าถึงทรัพยากรโดยการคัดลอกให้อยู่ใกล้ผู้ใช้มากขึ้น
• เพิ่มความเร็วในการสร้างทรัพยากรโดยลดจำนวนการเข้าถึง ตัวอย่างเช่น แทนที่จะสร้างหน้าแรกของบล็อกตามคำขอแต่ละครั้งคุณสามารถจัดเก็บไว้ในแคชได้

คำแนะนำนี้แสดงวิธีการตั้งค่าแคชบน NGINX-balancer ใน Ruk-Com PaaS

ด้วย NGINX-balancer คุณสามารถใช้การแคชเพื่อลดการโหลดแอปพลิเคชันเซิร์ฟเวอร์ ในการดำเนินการดังกล่าวให้ทำตามขั้นตอนต่อไปนี้:

1. เข้าสู่แดชบอร์ด Ruk-Com

2. ขอให้ Ruk-Com Cloud ใช้ Create Environment

3. สร้าง Environment แอปพลิเคชันเซิร์ฟเวอร์จำนวนหนึ่งและ NGINX เป็นตัวปรับสมดุล (balancer) ระบุลิมิตของ cloudlet พิมพ์ชื่อของ Environment และคลิกปุ่ม Create

ภายในไม่กี่นาที Environment ของคุณจะถูกสร้างขึ้นและปรากฏในรายการ

4. สำหรับการตั้งค่าแคชให้คลิกปุ่ม Config สำหรับโหนด NGINX ใน Env ของคุณและไปที่ conf.d > cache.conf

5. สำหรับการเปิดใช้งานแคช ให้ยกเลิกการคอมเมนต์ในบรรทัดตามที่แสดงในภาพด้านล่าง

• proxy_cache_path /var/lib/nginx/cache [levels=levels] keys_zone=name:size
• คำสั่งนี้กำหนดพาธและพารามิเตอร์อื่น ๆ ของแคช
  – พารามิเตอร์ levels กำหนดระดับลำดับชั้นของแคช
  – พารามิเตอร์ keys_zone กำหนดค่าชื่อและขนาด RAM ของโซน (ตัวอย่างเช่น jelastic:32m)
• proxy_cache zone | off, where zone – identifier of the cache
  คำสั่งนี้กำหนดโซนหน่วยความจำแบบแชร์ใช้ที่ใช้สำหรับการแคช สามารถใช้โซนเดียวกันได้หลายที่
  พารามิเตอร์ off ปิดใช้งานการแคชที่สืบทอดมาจาก configuration level ก่อนหน้า
• proxy_temp_path /var/lib/nginx/tmp [level1 [level2 [level3]]]
  สิ่งนี้กำหนดไดเร็กทอรีสำหรับจัดเก็บไฟล์ชั่วคราวที่มีข้อมูลที่ได้รับจากพร็อกซีเซิร์ฟเวอร์ สามารถใช้ลำดับชั้นไดเร็กทอรีย่อยได้สูงสุดสามระดับภายใต้ไดเร็กทอรีที่ระบุ
• proxy_cache_valid {number}m
  ระบุเวลาที่ NGINX ควรเก็บ cash ไว้ เช่น 720m.

หากต้องการค้นหาข้อมูลเกี่ยวกับคำสั่งอื่น ๆ ให้ไปที่ link.

เคล็ดลับ: 
หากจำเป็นต้องล้างแคชคุณสามารถใช้ไดเร็กทอรี proxy_cache_valid ที่มีค่าพารามิเตอร์ 0m ได้

6. บันทึกการเปลี่ยนแปลงและรีสตาร์ทโหนด

The post Caching in NGINX Balancer appeared first on คู่มือการใช้งาน Ruk-Com Cloud (PAAS).

การปรับคลัสเตอร์แอปพลิเคชันนั้นค่อนข้างง่ายด้วยการใช้ Ruk-Com Cloud เพียงเพิ่มแอปพลิเคชันเซิร์ฟเวอร์ instance อีกไม่กี่ตัวให้กับ Environment ของคุณ นอกจากนี้คุณจะเปิดใช้งานเซิร์ฟเวอร์ NGINX-balancer โดยอัตโนมัติในส่วนของหน้าโปรเจกต์ จะทำหน้าที่รับผิดชอบในการกระจายโหลดอย่างสม่ำเสมอระหว่างจำนวนโหนดเซิร์ฟเวอร์แอปที่ระบุ ซึ่งดำเนินการโดยอาศัยการ load balancing

ด้วยวิธีนี้ประสิทธิภาพแอปพลิเคชันของคุณจะเพิ่มขึ้นอย่างมากโดยเพิ่มจำนวนคำขอที่สามารถให้บริการได้ในภายครั้งเดียว เป็นโบนัสที่ดีที่คุณสามารถลดความเสี่ยงของการไม่สามารถเข้าถึงแอปได้เนื่องจากหากมีเซิร์ฟเวอร์หนึ่งล้มเหลว แต่ส่วนที่เหลือทั้งหมดจะยังคงทำงานต่อไป

เพื่อพิสูจน์ว่าโครงการนี้มีประสิทธิภาพนั้น เราจะแสดงวิธีการทดสอบการจัดสรรภาระงานด้วยการใช้เครื่องมือ link # ApacheBench (ab) เป็นตัวช่วย มีความเป็นไปได้หลายประการในการทดสอบความสามารถของเซิร์ฟเวอร์ในการรับมือกับโหลดที่เพิ่มขึ้นและเปลี่ยนแปลงได้ แม้ว่า ab ได้รับการออกแบบมาสำหรับการทดสอบการติดตั้ง Apache แต่ก็สามารถใช้เพื่อเปรียบเทียบเซิร์ฟเวอร์ HTTP ต่าง ๆ ได้

มาเริ่มและทดสอบกันแบบเรียลไทม์กัน

สร้าง Environment และ Deploy แอปพลิเคชัน

1. เข้าสู่ระบบ Ruk-Com Platform และคลิกปุ่ม Create environment ที่มุมบนซ้ายของแดชบอร์ด

2. หน้าต่างไดอะล็อก Environment topology จะปรากฏขึ้นทันที คุณสามารถเลือกภาษาโปรแกรมมิ่ง แอปพลิเคชัน/เว็บเซิร์ฟเวอร์และฐานข้อมูลที่ต้องการได้

ในขณะที่เรากำลังจะทดสอบการโหลดเซิร์ฟเวอร์ Apache PHP ให้เลือกและระบุลิมิตการใช้ทรัพยากรโดยใช้แถบเลื่อน cloudlets จากนั้นแนบ Public IP address สำหรับเซิร์ฟเวอร์นี้และพิมพ์ชื่อของ Env ใหม่ (เช่น balancer) คลิก Create.

3. ในเวลาเพียงไม่กี่นาที Env ของคุณจะปรากฏที่แดชบอร์ด

4. เมื่อสร้าง Env สำเร็จแล้วคุณสามารถปรับใช้ (deploy) แอปพลิเคชันของคุณได้ เราจะใช้แพ็กเกจ HelloWorld.zip เป็นค่าเริ่มต้น ดังนั้นคุณเพียงแค่ต้องปรับใช้ (deploy) กับ Env ที่ต้องการด้วยปุ่มที่เกี่ยวข้องและยืนยันการปรับใช้ (deploy) ในเฟรมที่เปิดอยู่

การทดสอบ Control Point

ในการวิเคราะห์ผลลัพธ์คุณจะต้องมีบางสิ่งเพื่อเปรียบเทียบ ดังนั้นเรามาทำการทดสอบจุดควบคุมโดยใช้ Environment ที่สร้างขึ้นเป็นแบบแอพพลิเคชั่นเซิร์ฟเวอร์แบบโหนดเดียว

ดังที่ได้กล่าวไว้ข้างต้นเราจะใช้เครื่องมือ ApacheBench (ab) เพื่อวัตถุประสงค์เหล่านี้ สามารถสร้างการโหลดแบบซิงเกิล้เธรดได้โดยการส่งคำขอพร้อมกันตามจำนวนที่ระบุไปยังเซิร์ฟเวอร์

ดังนั้น ให้ทำตามขั้นตอนด้านล่างนี้

1. ApacheBench เป็นส่วนหนึ่งของการแจกจ่ายซอร์ส Apache มาตรฐาน ดังนั้นหากคุณยังไม่มี ให้ใช้คำสั่งต่อไปนี้ผ่านเทอร์มินัล (หรือข้ามขั้นตอนนี้ไปถ้าคุณมี)

apt-get install apache2-utils

รอจนกว่าการติดตั้งจะเสร็จสมบูรณ์

หมายเหตุ :
สามารถดูข้อมูลโดยละเอียดเกี่ยวกับคำสั่ง ab ที่ใช้เพิ่มเติมได้ตาม link

2. ป้อนบรรทัดถัดไปนี้ในเทอร์มินัล:

ab -g res1.tsv -n 500 -c 10 {URL_to_your_env}

แทนที่ส่วน {URL_to_your_env} ด้วยลิงก์ที่ไปยัง Env ของคุณ (เช่น ในกรณีของเราคือ http://balancer.app.ruk-com.cloud/) ในการรับให้คลิกปุ่ม Open in Browser ถัดจาก Env และคัดลอก URL ที่เกี่ยวข้องจากแถบที่อยู่ของเบราว์เซอร์

คำสั่งที่ระบุจะส่งจำนวนคำขอทั้งหมด 500 คำขอไปยัง Env ที่ระบุ ซึ่งแบ่งออกเป็นชุดของคำขอพร้อมกัน 10 รายการในครั้งเดียว ผลลัพธ์ทั้งหมดจะถูกเก็บไว้ในไฟล์ res1.tsv ภายในโฟลเดอร์ home ของคุณ (หรือป้อนพาธแบบเต็มไปยังไดเร็กทอรีที่ต้องการหากคุณต้องการเปลี่ยนตำแหน่งไฟล์)

นอกจากนี้คุณสามารถระบุพารามิเตอร์ที่กำหนดเองสำหรับคำสั่งที่กล่าวถึงข้างต้นได้หากต้องการ

การทดสอบนี้อาจใช้เวลาสักครู่ขึ้นอยู่กับพารามิเตอร์ที่ตั้งไว้ดังนั้นโปรดอดใจรอ

3. ไฟล์ที่ถูกสร้างขึ้นผลลัพธ์ควรมีลักษณะดังภาพด้านล่าง

เปลี่ยนการตั้งค่า Environment

1. กลับไปที่แดชบอร์ด Ruk-Com Cloud แล้วคลิก Change environment topology  สำหรับ environment balancer ของคุณ

2. ภายในกรอบ Environment topology ที่เปิดอยู่ ให้เพิ่มแอปพลิเคชันเซิร์ฟเวอร์เพิ่มเติม (เช่น เพิ่ม instance Apache อีกสักหนึ่งอัน) – ใช้ปุ่ม + ในส่วน Horizontal scaling wizard จากนั้นเปิดใช้งานคุณสมบัติ Public IP และระบุลิมิตทรัพยากรสำหรับโหนด NGINX-balancer ที่เพิ่มโดยอัตโนมัติ เนื่องจากจะกลายเป็นจุดเริ่มต้นของแอปพลิเคชันของคุณ คลิก Apply เพื่อดำเนินการต่อ

3. เมื่อนำการเปลี่ยนแปลงที่จำเป็นทั้งหมดไปใช้สำเร็จ คุณควรปิดใช้งาน sticky sessions สำหรับเซิร์ฟเวอร์ balancer มิฉะนั้นคำขอทั้งหมดจาก IP address นั้นจะถูกเปลี่ยนเส้นทางไปยัง instance เดียวกันของแอปพลิเคชันเซิร์ฟเวอร์

ดังนั้นคลิกปุ่ม Config ถัดจากโหนด Nginx

4. ไปที่ไฟล์ conf > nginx-jelastic.conf ไม่สามารถแก้ไขได้ ดังนั้นให้คัดลอกเนื้อหาทั้งหมดและวางลงในไฟล์ nginx.conf (อยู่ในโฟลเดอร์เดียวกัน) แทนที่จะรวม /etc/nginx/nginx-jelastic.conf; ตามเส้น (ที่วงไว้ตามภาพต่อไปนี้)

5. จากนั้นค้นหาพารามิเตอร์ sticky path 2 รายการในโค้ด (ในส่วน DEFAULT UPSTREAM และ UPSTREAMS LIST) และคอมเมนต์ตามที่แสดงด้านล่าง

หมายเหตุ :
อย่าลืมใส่วงเล็บปีกกาปิดหลังสตริง sticky path และไม่ควรใส่เครื่องหมายคอมเมนต์ไว้

6. บันทึกการเปลี่ยนแปลงที่ใช้และรีสตาร์ทเซิร์ฟเวอร์ NGINX

การทดสอบ Balancer และเปรียบเทียบผลลัพธ์

1. เปลี่ยนกลับไปที่เทอร์มินัลของคุณและเรียกใช้การทดสอบ ab อีกครั้งด้วยพารามิเตอร์เดียวกัน (ยกเว้นไฟล์ที่มีผลลัพธ์เป็น – ให้ระบุชื่ออื่น เช่น res2.tsv)

ab -g res2.tsv -n 500 -c 10 {URL_to_your_env}

ตอนนี้เรามาดำเนินการทดสอบ load balancing โดยตรงกัน

2. เพื่อชี้แจงผลลัพธ์ที่ได้เราจะใช้ข้อมูลจากไฟล์ res1.tsv และ res2.tsv นำเข้าไปยัง spreadsheet และใช้ plot กราฟออกมา

คล้ายกับภาพต่อไปนี้:

เนื่องจากตัวเลือกที่ระบุไว้กราฟสีน้ำเงินจะแสดงประสิทธิภาพของเซิร์ฟเวอร์ Apache แบบเดี่ยวที่ไม่มีตัว balancer (ผลการทดสอบจุดควบคุม [control point]) และเซิร์ฟเวอร์สีแดง จะเป็นสองเซิร์ฟเวอร์ที่มี NGINX load balancer (ผลการทดสอบขั้นที่สอง)

Note: The received testing results (response time for each sent requests) are shown in the ascending order, i.e. not chronologically.

หมายเหตุ :
ผลการทดสอบที่ได้รับ (เวลาตอบสนองสำหรับแต่ละคำขอที่ส่งไป) จะแสดงตามลำดับจากน้อยไปหามากกล่าวคือไม่เรียงตามลำดับเวลา

อย่างที่คุณเห็นในขณะที่ให้บริการ low load ประสิทธิภาพของการกำหนดค่าทั้งสองเกือบจะเท่ากัน แต่เมื่อจำนวนคำขอเพิ่มขึ้นเวลาตอบสนองสำหรับ Environment ที่มี instance เซิร์ฟเวอร์แบบซิงเกิ้ลแอปจะเพิ่มขึ้นอย่างมากซึ่งส่งผลให้แสดงคำขอน้อยลงในเวลาเดียวกัน ดังนั้นหากคุณคาดหวังว่าแอปพลิเคชันเซิร์ฟเวอร์ของคุณจะมีภาระงานสูง (high load) การเพิ่มจำนวน instance ในบันเดิล (bundle) ด้วยเซิร์ฟเวอร์ balancer จะเป็นวิธีที่ดีที่สุดในการทำให้ลูกค้าของคุณพึงพอใจ

เพลิดเพลินไปกับข้อดีทั้งหมดของคลาวด์!

The post Testing Load Balancing appeared first on คู่มือการใช้งาน Ruk-Com Cloud (PAAS).

ลูกค้า Ruk-Com Cloud สามารถใช้ TCP เพื่อทำการปรับสมดุล (balancing) คำร้องขอไปยังฐานข้อมูล, เมลเซิร์ฟเวอร์และแอปพลิเคชันที่กระจายได้อื่น ๆ ด้วยเน็ตเวิร์คซัพพอร์ต นอกจากนี้ยังสามารถใช้ TCP แทน HTTP ได้ หากต้องการการปรับสมดุลให้เร็วขึ้น ในกรณีนี้คุณต้องทราบว่าความรวดเร็วนี้เกิดขึ้นได้จากการละเว้นขั้นตอนการจัดการคำขอต่าง ๆ

คอมโพเนนต์ TCP load balancing ได้รับการร้องขอการเชื่อมต่อจากไคลเอนต์แอปพลิเคชันผ่านเน็ตเวิร์คซ็อกเก็ต คอมโพเนนต์นี้จะตัดสินใจว่าโหนดใดใน Env จะได้รับการร้องขอ สำหรับการแจกจ่ายคำขอนี้ Ruk-Com ได้ใช้ Round Robin Algorithm

เมื่อสร้างการเชื่อมต่อแล้วคำขอจากไคลเอนต์แอปพลิเคชันจะดำเนินต่อไปผ่านการเชื่อมต่อเดียวกันกับโหนดที่เลือก แอปพลิเคชันไม่สามารถระบุได้ว่าจะทำการเลือก instance ใด

การเชื่อมต่อที่มีอยู่จะหายไปก็ต่อเมื่อเกิดปัญหาขึ้น เช่น เครือข่ายล้มเหลวชั่วคราวหรืออะไรที่เป็นในลักษณะนั้น ในครั้งถัดไปที่ได้รับการร้องขอการเชื่อมต่อใหม่จะถูกสร้างขึ้น การเชื่อมต่อนี้สามารถไปที่ instance ใดก็ได้ใน Environment

ในการทำ TCP balancing ที่ Ruk-Com Cloud environment ให้ทำตามคำแนะนำต่อไปนี้:

1. สร้าง Env ด้วยแอปพลิเคชันเซิร์ฟเวอร์ 2 ตัวขึ้นไป (ตัวอย่างเช่น Tomcat) ในกรณีนี้ NGINX จะถูกเพิ่มโดยอัตโนมัติ โปรดทราบว่าคุณต้องเปิด Public IP สำหรับโหนด NGINX

2. คลิก Config สำหรับ NGINX ใน Env ของคุณ

3. ในแท็บที่เปิดอยู่ให้ไปที่ tcpmaps > mappings.xml และระบุพอร์ตส่วนของ frontend และbackend บันทึก (Save) การเปลี่ยนแปลง

Frontend คือพอร์ตที่ผู้ใช้จะเชื่อมต่อ
Backend คือพอร์ตที่ balancer จะส่งต่อคำขอ

4. รีสตาร์ท (Restart) โหนด NGINX

และนั่นคือทั้งหมด ตอนนี้ Env ของคุณใช้ TCP balancing สำหรับแอปพลิเคชันเซิร์ฟเวอร์แล้ว

The post TCP Load Balancing appeared first on คู่มือการใช้งาน Ruk-Com Cloud (PAAS).

NGINX เป็น TCP/UDP,HTTP และ reverse proxy เซิร์ฟเวอร์แบบโอเพนซอร์ส เป็นหนึ่งในโซลูชั่นยอดนิยมของโลกสำหรับการทำโหลดบาลานซ์ ซึ่งช่วยให้ลูกค้าได้รับประสิทธิภาพการทำงานที่สูงและการใช้ทรัพยากรอย่างมีประสิทธิภาพ สถาปัตยกรรมโมดูลาร์ของ NGINX ช่วยให้มั่นใจได้ถึงการปรับแต่งในแบบของคุณที่สามารถรองรับทุกความต้องการของลูกค้ารวมถึงคุณสมบัติต่าง ๆ เช่น

• การพร็อกซีทั่วไปของ TCP และ UDP
• ให้บริการ static ไฟล์ การจัดทำ auto-index
• เร่ง reverse proxying ด้วยการแคช
• การเปลี่ยนเส้นทางของรหัสข้อผิดพลาด 3xx-5xx
• รองรับ SSL และ TLS SNI
• การควบคุมการเข้าถึง การยอมรับข้อผิดพลาดและอื่น ๆ

การทำโหลดบาลานซ์ด้วย NGINX เหมาะสำหรับกรณีส่วนใหญ่ เนื่องจากความสามารถในการปรับสเกล ความปลอดภัย ความน่าเชื่อถือและความคุ้มทุน การสร้างตัว load balancer ที่ใช้ NGINX ใหม่ เป็นกระบวนการที่สามารถทำได้อย่างตรงไปตรงมาที่ Ruk-Com PaaS

1. ลงชื่อเข้าใช้แดชบอร์ดแล้วคลิกปุ่ม New Environment ที่มุมบนซ้าย

2. ภายในวิ topology wizard ที่เปิดขึ้นโดยอัตโนมัติให้เลือก NGINX ที่ส่วน Balancing (วงกลมในภาพด้านล่าง) ในที่นี้หากมีการเพิ่มตัวจัดสรรภาระงาน (load balancer) เข้ากับ Env ด้วยแอปพลิเคชันเซิร์ฟเวอร์ ต้องกำหนดค่าที่จำเป็นทั้งหมดเพื่อแจกจ่ายคำขอระหว่าง instance ที่มีอยู่จะถูกนำไปใช้โดยอัตโนมัติ

จากนั้นคุณต้องตั้งค่าการกำหนดค่าที่ต้องการสำหรับ NGINX balancer (cloudlets, disk space,IP addresses ฯลฯ ) เพิ่มสแต็กอื่น ๆ ที่จำเป็น (เช่น แอปพลิเคชันเซิร์ฟเวอร์หรือฐานข้อมูล) แล้วคลิก Create

3. รอสักครู่เพื่อให้แพลตฟอร์มทำการตั้งค่า Environment

ขอแสดงความยินดี NGINX load balancer ของคุณพร้อมทำงานแล้ว! ตอนนี้คุณสามารถดำเนินการ config ค่าได้

The post NGINX Balancer appeared first on คู่มือการใช้งาน Ruk-Com Cloud (PAAS).