Appearance
Cụm 12 — Thống kê mô tả
Cụm này dựng toàn bộ thống kê mô tả phổ thông từ một đối tượng gốc duy nhất: một mẫu số liệu — dãy hữu hạn các quan sát rút từ một tổng thể.
- Câu hỏi gốc — thay vì đọc cả
con số, làm sao gói cả dãy vào vài con số đại diện trả lời "dãy nằm quanh đâu" và "dãy rải rộng hay co cụm". - Trụ một — đo xu hướng trung tâm (central tendency): trung bình, trung vị, mode là ba cách chọn một giá trị tiêu biểu cho cả dãy.
- Trụ hai — đo độ phân tán (dispersion): phương sai và độ lệch chuẩn đo độ tản quanh trung bình; ở đây có định lý công thức tính nhanh phương sai được chứng minh bằng khai triển đại số.
- Trụ ba — biểu đồ (bar chart, histogram, biểu đồ hộp) là cách nén dãy số thành hình, đọc hình là đọc lại trung tâm và độ phân tán bằng mắt.
- Đòn bẩy trung tâm — hồi quy tuyến tính bình phương tối thiểu mở rộng từ một biến sang hai biến, có định lý hệ số góc và tính chất đường hồi quy luôn đi qua điểm tâm, kèm hệ số tương quan đo độ chặt.
- Nền cho phần sau — phương sai, độ lệch chuẩn và tương quan là đầu vào trực tiếp cho phân phối chuẩn, cho Sharpe, cho phương sai danh mục ở các cụm tài chính sau.
Đồ thị khái niệm
Đọc đồ thị:
- Màu — node xanh đậm là đối tượng gốc (mẫu một biến và mẫu cặp hai biến); xanh nhạt là tầng thống kê mô tả một biến; xanh lá là tầng dẫn xuất nối ra phần sau (độ lệch chuẩn, hồi quy, tương quan).
- Hướng — mọi thước đo một biến mọc từ mẫu gốc, riêng phương sai và độ lệch chuẩn phải có trung bình trước; sang hai biến thì hồi quy và tương quan cùng mọc từ mẫu cặp.
Glossary nhãn chart (English keyword -> tiếng Việt):
- Sample — mẫu số liệu: dãy hữu hạn quan sát rút từ tổng thể.
- Mean
— trung bình: tổng giá trị chia số quan sát. - Median — trung vị: giá trị đứng giữa khi xếp thứ tự.
- Mode — mode: giá trị xuất hiện nhiều lần nhất.
- Variance
— phương sai: trung bình bình phương sai lệch quanh trung bình. - Standard deviation
— độ lệch chuẩn: căn bậc hai phương sai. - Charts — biểu đồ tần số và biểu đồ hộp: cách nén dãy số thành hình.
- Paired sample
— mẫu cặp: dãy các cặp quan sát của hai biến. - Linear regression — hồi quy tuyến tính: đường thẳng khớp nhất đám điểm theo bình phương tối thiểu.
- Correlation coefficient
— hệ số tương quan: độ chặt quan hệ tuyến tính, nằm trong khoảng từ -1 tới 1.
1. Tiên đề và khái niệm nền
1.1 Tiên đề và khái niệm nền
Toàn bộ cụm đứng trên một đối tượng gốc và một quy ước phân biệt; không có hai thứ này thì mọi công thức sau mất nghĩa.
- Đối tượng gốc — mẫu số liệu (sample):
- Một mẫu là dãy hữu hạn
quan sát rút từ một tổng thể (population) lớn hơn. - Mỗi quan sát là một số thực ghi lại một dấu hiệu (giá trị) của một cá thể, ví dụ lợi nhuận một ngày, điểm một bài thi, chiều cao một người.
- Thứ tự ghi không quan trọng với phần lớn thước đo, nhưng với trung vị và phân vị thì bắt buộc sắp xếp tăng dần trước khi đếm vị trí.
- Một mẫu là dãy hữu hạn
- Quy ước nền — phân biệt mẫu và tổng thể:
- Tổng thể là toàn bộ cá thể quan tâm; mẫu là phần quan sát được trong tay; thống kê mô tả chỉ làm việc trên mẫu.
- Quy ước này không chứng minh được mà phải chấp nhận: đề ghi rõ "sample" hay "population" để quyết mẫu số của phương sai là
hay (xem định lý 3.3).
- Quy ước ký hiệu:
- Trung bình mẫu ký hiệu
(đọc "x ngang"); phương sai mẫu ký hiệu ; độ lệch chuẩn mẫu ký hiệu . - Với mẫu cặp hai biến, mỗi cá thể cho một cặp
thay vì một số đơn.
- Trung bình mẫu ký hiệu
2. Xu hướng trung tâm
Xu hướng trung tâm (central tendency) là một con số đại diện cho vị trí "dãy số nằm quanh đâu". Chỉ trung bình có công thức tổng quát; trung vị và mode là quy tắc chọn theo thứ hạng và tần số.
2.1 Định nghĩa — trung bình mẫu — sample mean
Trung bình mẫu là tổng mọi quan sát chia cho số quan sát.
- Biến:
— quan sát thứ trong mẫu. — số quan sát (cỡ mẫu). — trung bình mẫu, điểm cân bằng của dãy.
- Ý nghĩa thực tế:
- Là điểm cân bằng: dồn hết giá trị lại rồi chia đều cho mọi cá thể.
- Là nền của mọi thước đo độ phân tán sau, vì phương sai và độ lệch chuẩn đều đo sai lệch quanh nó.
- Nhược điểm: mỗi quan sát có trọng số bằng nhau nên một giá trị cực đoan (outlier) đủ sức kéo trung bình lệch hẳn.
2.2 Định lý — tổng sai lệch quanh trung bình bằng không
Với mọi mẫu, tổng các sai lệch của quan sát so với trung bình luôn bằng
, tức .
Chứng minh. Tách tổng thành hai phần và thay định nghĩa của trung bình.
Theo định nghĩa
- Ý nghĩa: đây là lý do phương sai phải bình phương sai lệch; nếu chỉ cộng sai lệch có dấu thì phần trên bù phần dưới và luôn ra
, không đo được độ tản.
2.3 Định nghĩa — trung vị và mode
Hai thước đo trung tâm ít nhạy với giá trị cực đoan hơn trung bình.
- Trung vị (median):
- Là giá trị đứng giữa sau khi xếp dãy tăng dần.
- Với
lẻ, trung vị là quan sát ở vị trí . - Với
chẵn, trung vị là trung bình hai quan sát ở vị trí và . - Trung vị chỉ quan tâm thứ hạng nên trơ với outlier, mô tả trung thực hơn khi dãy có vài giá trị bất thường.
- Mode:
- Là giá trị xuất hiện nhiều lần nhất; dãy có thể có một, nhiều, hoặc không có mode.
- Hợp khi đo "cỡ phổ biến nhất" như cỡ giày bán chạy; với dữ liệu liên tục thì xét khoảng chứa nhiều quan sát nhất.
2.4 Định lý — trật tự ba số theo dáng phân phối
Phân phối lệch phải (đuôi dài bên phải) cho
; phân phối lệch trái cho trật tự ngược lại.
Định hướng chứng minh. Đây là phát biểu định tính, không chứng minh đại số chặt mà nắm cơ chế kéo:
- Bước 1 — mode nằm ở đỉnh cao nhất, tức chỗ tập trung đông quan sát nhất.
- Bước 2 — trung bình lấy trọng số đều mọi quan sát nên bị các giá trị cực đoan ở đuôi dài kéo mạnh nhất về phía đuôi.
- Bước 3 — trung vị chỉ ăn thứ hạng nên dịch theo đuôi ít hơn trung bình, nằm giữa mode và trung bình.
- Bước 4 — đuôi dài bên phải kéo trung bình lên cao nhất, cho
; đuôi trái thì đảo lại.
2.5 Dạng câu hỏi trong đề
- Tính trực tiếp một chỉ số — cho dãy số rồi hỏi trung bình, trung vị, hoặc mode.
- Chọn đúng chỉ số cho tình huống — muốn biết lọt top thì dùng trung vị, cửa hàng giày quan tâm cỡ bán chạy thì dùng mode.
- Xếp trật tự ba số từ biểu đồ — nhìn dáng lệch rồi áp định lý 2.4.
- Suy ngược tìm ẩn — cho trung bình hoặc trung vị bằng một giá trị, có ẩn
trong dãy, giải ra ẩn. - Mean ghép nhóm — hai nhóm khác cỡ và khác trung bình, tìm trung bình chung bằng trọng số.
2.6 Quy trình không trượt bước
- Tính trung vị — sắp xếp tăng dần trước; đếm
; lấy ô giữa nếu lẻ, trung bình hai ô giữa nếu chẵn. - Mean ghép nhóm — nhân trung bình mỗi nhóm với cỡ nhóm ra tổng mỗi nhóm; cộng các tổng; chia tổng cỡ; công thức
. - Bảng tần số — trung bình là
, mỗi giá trị đếm đúng số lần xuất hiện .
2.7 Bẫy hay gặp
- Quên sắp xếp trước khi lấy trung vị — dãy đề cho thường lộn xộn, đếm thẳng ô giữa của dãy chưa sắp là nhầm.
- Lấy trung bình cộng hai mean khi ghép nhóm — hai nhóm khác cỡ phải dùng trọng số, trung bình cộng chỉ đúng khi hai nhóm bằng cỡ.
- Trung vị số chẵn quên lấy trung bình hai ô giữa — số chẵn không có ô giữa duy nhất.
3. Độ phân tán
Phần thưởng đo bằng giá trị trung tâm, rủi ro đo bằng độ phân tán (dispersion) quanh giá trị trung tâm. Phương sai và độ lệch chuẩn là hai thước đo lõi.
3.1 Định nghĩa — khoảng biến thiên — range
Khoảng biến thiên là quan sát lớn nhất trừ quan sát nhỏ nhất.
- Biến:
— quan sát lớn nhất trong mẫu. — quan sát nhỏ nhất trong mẫu.
- Ý nghĩa: biên độ dao động tối đa quan sát được, cho cảm nhận rủi ro tức thì không cần tính.
- Đánh đổi: chỉ nhìn hai đầu nên một outlier làm range phình to và không tả được phần giữa.
3.2 Định nghĩa — phương sai mẫu — sample variance
Phương sai mẫu là tổng bình phương sai lệch quanh trung bình chia cho
- Biến:
— sai lệch của quan sát so với trung bình, bình phương để bỏ dấu và phạt nặng sai lệch lớn. — mẫu số bậc tự do, nhỏ hơn cỡ mẫu một đơn vị (với phương sai tổng thể thì chia ).
- Ý nghĩa thực tế:
- Đo độ dao động trung bình quanh trung tâm; bình phương nên phạt nặng cú lệch lớn, rất nhạy biến động cực đoan.
- Hai dãy cùng trung bình, dãy nào phương sai nhỏ hơn thì ổn định hơn.
- Nhược điểm: đơn vị bị bình phương nên khó hình dung trực tiếp, đó là lý do cần độ lệch chuẩn.
3.3 Định lý — công thức tính nhanh phương sai
Phương sai (dạng chia
) bằng trung bình của bình phương trừ bình phương của trung bình, tức , trong đó .
Chứng minh. Khai triển bình phương trong tổng rồi tách thành ba tổng riêng.
Thay
Chia cả hai vế cho
Vế phải đúng là trung bình bình phương trừ bình phương trung bình.
- Ý nghĩa: quét dãy một lượt tích lũy
và là tính được phương sai, không cần quét hai lần (lần một tìm trung bình, lần hai tính sai lệch). Đây là dạng được dùng để tính phương sai trên dòng dữ liệu lớn. - Lưu ý mẫu số: định lý phát biểu cho dạng chia
; với phương sai mẫu chia thì nhân kết quả với .
3.4 Định nghĩa — độ lệch chuẩn mẫu — sample standard deviation
Độ lệch chuẩn là căn bậc hai của phương sai.
- Ý nghĩa thực tế:
- Căn bậc hai đưa đơn vị về lại như dữ liệu gốc nên đọc trực tiếp được, khác phương sai bị bình phương đơn vị.
- Là thước đo rủi ro tổng phổ biến nhất, là mẫu số của Sharpe ở cụm tài chính sau.
- Với phân phối chuẩn, khoảng 68% quan sát nằm trong
độ lệch chuẩn quanh trung bình, 95% trong .
3.5 Định lý — phương sai dưới biến đổi tuyến tính
Nếu biến đổi mọi quan sát theo
thì trung bình thành còn phương sai thành ; hệ số cộng không ảnh hưởng phương sai.
Chứng minh. Trước hết trung bình mới.
Lập sai lệch của
Thay vào định nghĩa phương sai.
Hệ số
- Ý nghĩa: cộng một hằng số dịch cả dãy nên không đổi độ tản; chỉ nhân một hằng số mới co giãn độ tản, và co giãn theo bình phương vì phương sai đo bình phương khoảng cách.
3.6 Dạng câu hỏi trong đề
- Tính phương sai trực tiếp — cho dãy số, chọn mẫu số
hay theo chữ "sample" hay "population". - Biến đổi tuyến tính — cho phương sai cũ và phép
, hỏi phương sai mới qua . - Chỉ số nào không đổi — trừ mọi điểm đi một hằng, hỏi chỉ số nào giữ nguyên (phương sai và range giữ, trung bình giảm).
- So sánh hai dãy — cùng trung bình, ai phương sai nhỏ hơn thì ổn định hơn.
3.7 Quy trình không trượt bước
- Tính phương sai — tính trung bình trước; lập từng sai lệch
; bình phương rồi cộng; chia nếu tổng thể, chia nếu mẫu. - Biến đổi tuyến tính — nhận
và từ phép ; trung bình mới ; phương sai mới ; nhớ không vào phương sai.
3.8 Bẫy hay gặp
- Lẫn mẫu số phương sai — "sample variance" chia
còn "population variance" chia , đọc sót chữ là sai con số. - Tưởng cộng hằng làm đổi phương sai — trừ mọi điểm đi một hằng thì phương sai giữ nguyên, chỉ phép nhân mới co giãn.
4. Biểu đồ
Biểu đồ chỉ là cách nén một dãy số thành hình; việc đầu tiên luôn là giải nén biểu đồ thành dãy số gốc rồi mới tính trung tâm và độ phân tán như mục 2 và 3.
4.1 Định nghĩa — biểu đồ tần số và histogram
- Bar chart (biểu đồ cột tần số):
- Chiều cao mỗi cột là tần số (số lần) giá trị đó xuất hiện.
- Mode là giá trị ở trục hoành tại cột cao nhất, không phải chiều cao của cột.
- Histogram (biểu đồ tần số khoảng):
- Chia trục giá trị thành các khoảng liền nhau rồi vẽ cột cao bằng số quan sát rơi vào mỗi khoảng.
- Dùng cho dữ liệu liên tục; dáng tổng thể của histogram cho thấy phân phối lệch trái, lệch phải, hay cân đối.
- Stem-and-leaf plot (biểu đồ thân lá):
- Mỗi số tách thành thân và lá; thân
ghép lá thành số . - Giải nén hết các lá ra dãy gốc rồi mới sắp xếp tính trung vị, range, phương sai.
- Mỗi số tách thành thân và lá; thân
4.2 Định nghĩa — biểu đồ hộp — box plot
Biểu đồ hộp tóm gọn dãy số bằng năm con số dựa trên phân vị.
- Hộp — kéo từ phân vị 25 (
) tới phân vị 75 ( ); chiều rộng hộp là khoảng tứ phân vị , tức bề rộng nửa giữa dữ liệu. - Vạch giữa hộp — trung vị (phân vị 50).
- Râu — vươn tới vùng dữ liệu bình thường; chấm tách rời ngoài râu là giá trị cực đoan.
- Đọc lệch — râu một bên dài hơn hẳn là dấu hiệu dữ liệu lệch về phía đó.
4.3 Định nghĩa — phân vị — percentile
Phân vị thứ
- Biến:
— cỡ mẫu (đã sắp xếp tăng dần). — bậc phân vị muốn tìm (ví dụ 50 cho trung vị, 90 cho phân vị 90). — vị trí mốc trong dãy đã sắp xếp.
- Quy tắc đọc vị trí:
- Nếu
không nguyên thì làm tròn lên và lấy quan sát ở ô đó. - Nếu
nguyên thì lấy trung bình quan sát ô thứ và ô thứ . - Phân vị 50 đúng bằng trung vị.
- Nếu
4.4 Bẫy hay gặp
- Đọc mode là chiều cao cột — mode là giá trị trục hoành ở cột cao nhất, không phải số đo chiều cao.
- Ghép sai thân với lá — thân
lá là chứ không phải và rời. - Quên sắp xếp trước khi lấy phân vị — phân vị vô nghĩa nếu dãy chưa sắp xếp tăng dần.
5. Hồi quy tuyến tính và tương quan
Sang mẫu hai biến, mỗi cá thể cho một cặp
5.1 Định nghĩa — bài toán bình phương tối thiểu
Hồi quy tuyến tính tìm đường thẳng
- Biến:
— cặp quan sát thứ . — hệ số góc (slope) của đường hồi quy. — hệ số chặn (intercept), giá trị khi . — tổng bình phương phần dư, đại lượng cần cực tiểu hóa.
- Ý nghĩa thực tế: bình phương sai lệch để sai lệch âm dương không triệt tiêu và phạt nặng điểm xa đường; đường tối ưu là đường "cân bằng" nhất với đám điểm.
5.2 Định lý — đường hồi quy đi qua điểm tâm
Đường hồi quy bình phương tối thiểu luôn đi qua điểm tâm
là trọng tâm của đám điểm, tức .
Chứng minh. Tại điểm cực tiểu của
Tách tổng và thay
Chia cho
- Hệ quả — tìm hệ số chặn: từ tính chất qua điểm tâm rút ngay
, dùng để bù hệ số chặn khi đề chỉ cho độ dốc và điểm tâm.
5.3 Định lý — hệ số góc đường hồi quy
Hệ số góc bình phương tối thiểu bằng hiệp phương sai của
chia cho phương sai của , tức .
Định hướng chứng minh. Cực tiểu hóa
- Bước 1 — đạo hàm riêng theo
bằng cho phương trình (đã làm ở định lý 5.2), tức . - Bước 2 — đạo hàm riêng theo
bằng cho . - Bước 3 — thế
vào phương trình bước 2 để khử . - Bước 4 — rút gọn về dạng
, từ đó chia ra công thức hệ số góc.
- Biến:
— tổng tích sai lệch hai biến, tỉ lệ với hiệp phương sai (covariance). — tổng bình phương sai lệch của , tỉ lệ với phương sai của .
- Ý nghĩa thực tế: độ dốc đo
đổi bao nhiêu khi tăng một đơn vị; dấu của dương thì tăng theo , âm thì giảm.
5.4 Định nghĩa — hệ số tương quan — correlation coefficient
Hệ số tương quan là hiệp phương sai chuẩn hóa về khoảng từ -1 tới 1.
- Biến:
— hiệp phương sai, chiều hai biến đi cùng nhau (còn dính đơn vị). — độ lệch chuẩn từng biến ở mẫu số, để chuẩn hóa và bỏ đơn vị. — hệ số tương quan, nằm trong khoảng .
- Ý nghĩa thực tế:
- Bỏ đơn vị nên so mạnh yếu dễ:
rõ ràng chặt hơn , bất kể quy mô (hiệp phương sai trần không so được). đi cùng chiều hoàn hảo, ngược chiều hoàn hảo, không có quan hệ tuyến tính.
- Bỏ đơn vị nên so mạnh yếu dễ:
- Định hướng tính chất
: áp bất đẳng thức Cauchy-Schwarz cho hai dãy sai lệch, , với và ; chia hai vế ra , tức . - Liên hệ dấu: mẫu số luôn dương nên dấu của
trùng dấu hiệp phương sai, cũng trùng dấu hệ số góc . - Cảnh báo: tương quan chỉ bắt phần tuyến tính; hai biến cong nhau như
vẫn có thể cho gần dù rõ ràng liên quan, nên luôn nhìn biểu đồ phân tán trước.
5.5 Dạng câu hỏi trong đề
- Tìm hệ số chặn từ điểm tâm — cho độ dốc và điểm tâm, tính
. - Phát biểu đúng sai về hồi quy — kiểm đường có đi qua điểm tâm không, tương quan chặt thì
gần đâu. - So độ dốc nhiều đoạn — ba đường hồi quy cho ba khúc thời gian, xếp thứ tự
theo độ nghiêng đồ thị. - Dò dấu tương quan — dấu
trùng dấu hệ số góc, đọc nhanh chiều quan hệ.
5.6 Quy trình không trượt bước
- Tìm hệ số chặn — chốt độ dốc
; lấy điểm tâm ; thay vào ; cẩn thận dấu trừ. - Phát biểu đúng sai — đường qua điểm tâm luôn đúng; tương quan chặt là
gần chứ không riêng .
5.7 Bẫy hay gặp
- Nói tương quan chặt thì
gần — thiếu vế âm, tương quan âm chặt cho gần , đúng phải là gần . - Quên đường hồi quy đi qua điểm tâm — phát biểu "không nhất thiết đi qua
" là sai. - Lẫn hệ số dốc với hệ số chặn —
là độ nghiêng, là chỗ cắt trục tung.
6. Ví dụ mẫu có lời giải
6.1 Tính nhanh phương sai bằng định lý 3.3
- Đề: dãy mẫu
, tính phương sai tổng thể (chia ) bằng công thức tính nhanh. - Lời giải:
- Trung bình
. - Trung bình bình phương
. - Áp định lý 3.3, phương sai
. - Kiểm chéo bằng định nghĩa: sai lệch là
, bình phương cộng lại , chia ra — khớp.
- Trung bình
6.2 Bù hệ số chặn bằng tính chất điểm tâm
- Đề: một đường hồi quy có độ dốc
, điểm tâm dữ liệu là ; tìm hệ số chặn và dự đoán tại . - Lời giải:
- Theo định lý 5.2, đường đi qua điểm tâm nên
. - Phương trình hồi quy là
. - Dự đoán tại
cho .
- Theo định lý 5.2, đường đi qua điểm tâm nên
7. Kết nối
- Phương sai và độ lệch chuẩn → phân phối chuẩn và rủi ro — độ lệch chuẩn là thước rủi ro tổng, vào thẳng quy tắc 68-95 của phân phối chuẩn và là mẫu số của Sharpe ở cụm Portfolio.
- Hiệp phương sai và tương quan → phương sai danh mục — tương quan thấp giữa các tài sản làm phương sai danh mục co lại, là lõi của đa dạng hóa và biên hiệu quả.
- Hồi quy tuyến tính → mô hình một nhân tố — đường hồi quy bình phương tối thiểu là khung của hồi quy beta và mọi mô hình tuyến tính nhiều biến về sau.
- Định lý tính nhanh phương sai và điểm tâm — là hai công cụ đại số tái dùng khắp các cụm định lượng, từ ước lượng tham số tới khử tương quan với thị trường.