一、高并發(fā)、高吞吐
總的來(lái)說(shuō),高吞吐量和高并發(fā)都是提高系統(tǒng)的處理能力,但它們是兩個(gè)獨(dú)立的概念,也就是說(shuō)一個(gè)系統(tǒng)可以同時(shí)具有高吞吐量和高并發(fā),也可以只具有其中一種。
例如,一個(gè)高吞吐量的系統(tǒng)可以快速處理大量請(qǐng)求,但并不能同時(shí)處理很多請(qǐng)求;而一個(gè)高并發(fā)的系統(tǒng)則可以同時(shí)處理多個(gè)請(qǐng)求,但每個(gè)請(qǐng)求的處理速度可能較慢。
如何在高吞吐量和高并發(fā)之間做取舍
在高吞吐量和高并發(fā)之間做取舍時(shí),需要考慮系統(tǒng)的要求和性能瓶頸。
如果系統(tǒng)的要求是處理盡可能多的請(qǐng)求,那么應(yīng)該重點(diǎn)關(guān)注吞吐量,通過(guò)優(yōu)化系統(tǒng)資源利用率和請(qǐng)求處理效率來(lái)提高吞吐量。如果系統(tǒng)的要求是在高并發(fā)情況下保證穩(wěn)定性,那么應(yīng)該重點(diǎn)關(guān)注并發(fā)能力,通過(guò)優(yōu)化線程池管理、請(qǐng)求調(diào)度等方面來(lái)提高并發(fā)能力。另外,也可以考慮在硬件層面增加機(jī)器數(shù)量來(lái)提高系統(tǒng)的吞吐量和并發(fā)能力。延伸閱讀:
二、QPS是什么
QPS:Queries Per Second是衡量信息檢索系統(tǒng)(例如搜索引擎或數(shù)據(jù)庫(kù))在一秒鐘內(nèi)接收到的搜索流量的一種常見(jiàn)度量。該術(shù)語(yǔ)在任何請(qǐng)求-響應(yīng)系統(tǒng)中都得到更廣泛的使用,更正確地稱(chēng)為每秒請(qǐng)求數(shù)(RPS:Request Per Second)。
高性能、高并發(fā)、高可用(簡(jiǎn)稱(chēng)“三高”)要求的系統(tǒng)必須注意其QPS,才能知道何時(shí)擴(kuò)容系統(tǒng)以處理更多請(qǐng)求。