504 aslında ne söylüyor
Ağ geçidi (gateway), bir isteği alıp bir sonrakine ileten her şeydir: CDN edge'i, yük dengeleyici, PHP-FPM ya da Node önündeki nginx. 504 Gateway Timeout, ağ geçidinin şunu söylemesidir: arkamdaki sunucuya ulaştım, sordum, cevap benim sınırım dolmadan gelmedi.
504'ü komşularından ayıran da budur. 502 Bad Gateway, cevabın kullanılamaz olduğu ya da bağlantının kurulamadığı anlamına gelir. 503 Service Unavailable, bir şeyin isteği bilerek geri çevirdiğini söyler. 504'te kimse bir şeyi reddetmedi: istek kabul edildi ve ziyaretçi hata sayfasını gördükten sonra bile sunucunuzda çalışmaya devam ediyor olabilir.
Bu son nokta pratikte önemlidir. 504 işi iptal etmez: proxy'de zaman aşımına uğrayan bir rapor bir dakika sonra origin'de tamamlanabilir; düğmeye yeniden basan ziyaretçi ise aynı işin ikinci kopyasını başlatır.
Kim kimi bekledi
Tipik bir istek birkaç bekleme noktasından geçer: ziyaretçi → CDN edge'i → web sunucunuz (nginx ya da Apache) → uygulamanız (PHP-FPM, Node, bir container) → veritabanınız ya da bir dış API. Her ok kendi zaman aşımı olan bir ağ geçididir ve bu süreler birbirinden bağımsız, çoğu zaman farklı kişiler tarafından ayarlanır.
En çok zaman kazandıran kural şudur: zincirdeki en kısa zaman aşımı devreye girer. Edge 60 saniye, nginx'iniz PHP-FPM için 60 saniye bekliyor ve PHP bir betiği 30 saniyede durduruyorsa, istek edge'in sınırına hiç yaklaşmaz; PHP onu 30. saniyede bitirir, bir üstteki halka da hatayı raporlar.
Bu yüzden ilk soru "CDN neden zaman aşımına uğruyor" değil, hata ekrana gelene kadar ne kadar geçti sorusudur. Neredeyse tam 60 saniyede gelen bir 504, 60 saniyelik bir sınırı; 30 saniyede gelen, 30 saniyelik bir sınırı gösterir. Bu süreyi bildiğiniz sınırlarla karşılaştırın; vazgeçen halka çoğu zaman kendini ele verir.
504'lerin neredeyse tamamının arkasındaki sebepler
Yavaş bir sorgu. Doğru indeksi olmayan tek bir sorgu, on bin satırdan on milyon satıra büyüyen bir tabloyu baştan sona tarar. Yayına çıktığında hızlıydı, bugün yavaş; kodda tek satır değişmedi.
Doğası gereği uzun iş. CSV ve Excel dışa aktarmaları, PDF raporları, toplu içe aktarmalar, görsel ya da video işleme, yönetim panelinden başlatılan bir yedek. Bunlar hata değildir; bir web isteğinin içinde çalışmaması gereken işlerdir.
Zaman aşımı olmayan bir dış çağrı. Ödeme sağlayıcısı, kargo API'si, arama servisi. O takıldığında sizin isteğiniz de takılır ve ziyaretçileriniz başkasının kesintisini bekler.
Aşırı yüklenmiş bir origin. Bütün PHP-FPM worker'ları ya da thread'ler doluysa yeni istekler daha başlamadan kuyrukta bekler. İsteklerin her biri hızlı olabilir; süreyi bitiren sıradaki bekleyiştir. Bu tür 504'ler trafik zirvelerinde toplanır.
Halkalar arasında ağ sorunu. Paketleri reddetmek yerine sessizce düşüren bir güvenlik duvarı, proxy'yi hiç açılmayacak bir bağlantıyı beklemeye mahkûm eder. Sonuç hızlı bir hata değil, 504'tür.
Teşhis: süre nereye gidiyor, ölçün
İsteği önce CDN üzerinden, sonra aynı isteği doğrudan origin'e göndererek zamanlayın. curl süreyi aşamalara ayırabilir; komutlar aşağıda.
connect uzunsa ya da hiç tamamlanmıyorsa sorun origin'e ulaşmaktadır: güvenlik duvarı, yönlendirme, kapalı bir sunucu. connect kısa ama ttfb (ilk bayta kadar geçen süre) uzunsa origin isteği almış ve hâlâ üzerinde çalışıyordur. Klasik 504 budur ve cevabı uygulamanızdadır.
İkinci komut --resolve ile CDN'i atlar ama alan adınızı göndermeye devam eder. Origin tek başına da 70 saniye sürüyorsa edge doğruyu söylüyordur. Doğrudan iki saniyede cevap verip yalnız CDN üzerinden zaman aşımına uğruyorsa farka bakın: bir güvenlik duvarı kuralı, o alan adı için başka bir arka uç ya da uygulamanızın farklı yorumladığı bir başlık.
Ardından o ana ait origin loglarını okuyun. nginx'te log biçimine $request_time ve $upstream_response_time ekleyin, Apache'de %D. Veritabanınızın yavaş sorgu logunu (slow query log) ve PHP için PHP-FPM slowlog ayarını açın; slowlog, fazla uzun süren her isteğin yığın izini yazar ve sizi çoğu zaman doğrudan sorunlu satıra götürür.
İsteği CDN üzerinden ve doğrudan origin'e zamanlamak
# CDN üzerinden
curl -o /dev/null -s -w 'connect=%{time_connect}s tls=%{time_appconnect}s ttfb=%{time_starttransfer}s total=%{time_total}s code=%{http_code}\n' \
https://www.example.com/raporlar/disa-aktar
# doğrudan origin'e, aynı alan adıyla
curl -o /dev/null -s -w 'connect=%{time_connect}s ttfb=%{time_starttransfer}s total=%{time_total}s code=%{http_code}\n' \
--resolve www.example.com:443:ORIGIN_IP https://www.example.com/raporlar/disa-aktar
Önce yavaş olan kısmı düzeltin
Zaman aşımını büyütmek hatayı ortadan kaldırır ama ziyaretçiyi aynı süre bekletir. Herhangi bir sınıra dokunmadan önce isteği kısaltın.
İndeks ve önbellek. Yavaş sorguyu slow log'da bulun ve ihtiyaç duyduğu indeksi ekleyin. Pek çok ziyaretçinin paylaştığı sonuçları uygulamada ya da Cache-Control başlıklarıyla edge'de önbelleğe alın.
Uzun işi isteğin dışına taşıyın. Dışa aktarmayı arka plan işine çevirin: tıklama işi kuyruğa ekler ve hemen döner, sayfa ilerlemeyi gösterir, biten dosya bir indirme bağlantısıyla ya da e-postayla gelir. İş ne kadar büyürse büyüsün web isteği kısa kalır.
Her dış çağrıya kendi zaman aşımını verin. Birkaç saniye ve mantıklı bir yedek davranış; böylece başka bir şirketin kesintisi sizin kesintiniz olmaz.
Origin'i zirveye göre boyutlandırın. 504'ler yoğun saatlerde toplanıyorsa worker ekleyin (PHP-FPM pm.max_children, Node süreçleri, container kopyaları) ve tekrarlanan istekleri edge önbelleğine bırakın; origin'e ulaşan istek sayısı kendiliğinden düşer.
Zaman aşımını yalnız gereken yerde artırın
Bazı istekler tasarım gereği uzundur: işlenen büyük bir yükleme, bölünemeyen bir rapor, sonuçları akıtarak gönderen bir API. Bunlar için sınırı artırın; ama yalnız o yolda ve zincirin her halkasında.
cdn.com.tr'de bu bir yayınlama kuralı ayarıdır: Kaynak yanıt zaman aşımı (saniye), kural başına 1 ile 3.600 saniye arası, varsayılanı 60 saniye. Uzun süreye ihtiyaç duyan yol için, örneğin /admin/export/, ayrı bir kural oluşturun ve yalnız o kurala uzun süre verin. Sitenin geri kalanı kısa varsayılanda kalır ve gerçekten bir sorun olduğunda hızlıca hata verir. Managed Container uygulamalarınızın alan adında varsayılan, kural başka bir değer belirtmedikçe 300 saniyedir.
Zaman aşımı, isteğin toplam süresini değil, origin'den gelen iki veri parçası arasındaki süreyi sayar. Veri aktığı sürece edge isteği açık tutar. Satır satır yazılan bir CSV ya da bir ilerleme akışı bu yüzden dakikalarca sürebilir; beş dakika hesap yapıp her şeyi en sonda tek seferde basan bir betik ise süreyi doldurur.
Sonra edge'in arkasındaki halkaları hizalayın: nginx'te proxy_read_timeout ya da fastcgi_read_timeout, PHP'de max_execution_time, uygulama sunucunuzun kendi sınırı. Uzun bir yol, en kısa sınırı kadar uzundur.
Önde bir CDN varken
CDN, bir 504'ün size maliyetini değiştirir.
Önbellekteki sayfalar sunulmaya devam eder. Önbelleğe alan bir kuralda origin'iniz zaman aşımına uğrarken edge sayfanın bir kopyasını hâlâ tutuyorsa (süresi dolmuş olsa bile) hata yerine o kopyayı sunar. Origin'deki yavaş bir dakika, bozuk bir sayfa yerine biraz eski bir sayfaya dönüşür. Önbelleğe alınabilecek her şeyi, içeriğin gerçekte ne sıklıkla değiştiğine uyan TTL'lerle önbelleğe almak için iyi bir sebep.
Yavaş yollar görünür olur. 504'ler yalnız /arama ya da /odeme gibi önbelleğe alınmayan, dinamik yollarda çıkıyorsa nereye bakacağınızı tam olarak bilirsiniz.
Uzun ömürlü bağlantılar da aynı kurala uyar. Zaman aşımından uzun süre hiç veri göndermeyen bir WebSocket bağlantısı kapanır. WebSocket yolu için WebSocket bağlantılarına izin ver seçeneği açık ve süresi ihtiyaca uygun ayrı bir kural açın ya da sınırdan sık aralıklarla küçük bir "heartbeat" mesajı gönderin. İki ayar da origin bağlantısı rehberinde anlatılıyor.
Nasıl yapılır
Yardım merkezindeki adım adım rehberler:
504 Gateway Timeout hakkında sık sorulanlar
504, sunucumun mu yoksa CDN'in mi hatası?
Çoğu durumda süre origin'inizde harcanır; bekleyen taraf edge'dir. CDN üzerinden bir isteği, origin'e doğrudan gönderilen bir istekle karşılaştırın. Origin tek başına da aynı ölçüde yavaşsa çözüm origin'dedir; doğrudan hızlı, yalnız CDN üzerinden yavaşsa edge'in bağlantısını etkileyen bir güvenlik duvarı ya da yönlendirme farkı arayın.
cdn.com.tr'de varsayılan origin zaman aşımı nedir?
Origin'den veri gelmeden 60 saniye. Bu süreyi yayınlama kuralı başına Kaynak yanıt zaman aşımı (saniye) alanından 1 ile 3.600 saniye arasında ayarlayabilirsiniz. Managed Container uygulamalarının alan adında varsayılan 300 saniyedir.
Zaman aşımını her yerde 3.600 saniye yapsam olmaz mı?
Önermeyiz. Her yolda uzun bir zaman aşımı, gerçekten bir şey bozulduğunda ziyaretçinin bir dakikada cevap almak yerine bir saat boyunca dönen bir simgeye bakması ve takılan isteklerin origin'de birikmesi demektir. Site için varsayılanı koruyun, süreyi yalnız tasarım gereği yavaş olan yolun kuralında artırın.
Dışa aktarma küçük dosyalarda çalışıyor, büyüklerde neden 504 veriyor?
Çünkü ilk baytı göndermeden önce dosyanın tamamını oluşturuyor. Küçük dışa aktarmalar sınırın içinde biter, büyükler bitmez. Dosyayı oluştukça akıtarak gönderin ya da dışa aktarmayı arka plan işi olarak çalıştırıp hazır olunca indirme bağlantısı gönderin.
Uygulamam hızlıysa da 504 alabilir miyim?
Evet, istekler başlamadan önce kuyrukta bekliyorsa. Bütün worker'lar meşgulken hızlı bir istek bile zaman aşımına uğrayacak kadar bekleyebilir. Yalnız yoğun saatlerde görülen 504'ler koda değil, kapasiteye işaret eder.
Sayfayı yenilemek işe yarar mı?
Bazen yarar; ama her yenileme aynı yavaş işi origin'de yeniden başlatır. Ağır sayfalarda art arda yenilemeler, sunucu zaten zorlanırken ona yük bindirir.