mbutrovich commented on PR #21600: URL: https://github.com/apache/datafusion/pull/21600#issuecomment-4245770125
> ๐ค Benchmark completed (GKE) | [trigger](https://github.com/apache/datafusion/pull/21600#issuecomment-4245617152) > > **Instance:** `c4a-highmem-16` (12 vCPU / 65 GiB) > > CPU Details (lscpu) > Details > ``` > Comparing HEAD and sort_redesign > -------------------- > Benchmark tpch_sf10.json > -------------------- > โโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ > โ Query โ HEAD โ sort_redesign โ Change โ > โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ > โ QQuery 1 โ 369.16 / 371.50 ยฑ1.50 / 373.82 ms โ 368.07 / 370.91 ยฑ1.62 / 372.36 ms โ no change โ > โ QQuery 2 โ 482.08 / 492.17 ยฑ8.28 / 506.22 ms โ 433.33 / 444.34 ยฑ5.98 / 450.13 ms โ +1.11x faster โ > โ QQuery 3 โ 615.12 / 652.70 ยฑ25.94 / 683.44 ms โ 505.60 / 511.45 ยฑ3.64 / 516.46 ms โ +1.28x faster โ > โ QQuery 4 โ 465.10 / 493.57 ยฑ17.87 / 509.76 ms โ 338.03 / 340.79 ยฑ2.28 / 343.59 ms โ +1.45x faster โ > โ QQuery 5 โ 1064.46 / 1096.65 ยฑ28.41 / 1137.47 ms โ 1004.03 / 1053.30 ยฑ30.21 / 1086.10 ms โ no change โ > โ QQuery 6 โ 132.93 / 137.08 ยฑ6.96 / 150.97 ms โ 133.75 / 136.14 ยฑ3.28 / 142.56 ms โ no change โ > โ QQuery 7 โ 1518.69 / 1545.85 ยฑ32.91 / 1607.84 ms โ 1344.80 / 1370.15 ยฑ25.64 / 1415.11 ms โ +1.13x faster โ > โ QQuery 8 โ 1471.85 / 2012.19 ยฑ270.24 / 2155.94 ms โ 1173.34 / 1225.25 ยฑ60.85 / 1308.03 ms โ +1.64x faster โ > โ QQuery 9 โ 2026.03 / 2167.95 ยฑ127.83 / 2335.75 ms โ 1738.14 / 1801.47 ยฑ57.88 / 1875.72 ms โ +1.20x faster โ > โ QQuery 10 โ 519.68 / 533.14 ยฑ8.21 / 545.06 ms โ 506.37 / 512.62 ยฑ7.24 / 526.36 ms โ no change โ > โ QQuery 11 โ 447.97 / 455.81 ยฑ7.10 / 467.81 ms โ 415.12 / 426.13 ยฑ6.22 / 433.26 ms โ +1.07x faster โ > โ QQuery 12 โ 284.55 / 288.58 ยฑ3.24 / 294.03 ms โ 274.70 / 281.79 ยฑ4.01 / 286.60 ms โ no change โ > โ QQuery 13 โ 362.47 / 371.52 ยฑ7.65 / 384.95 ms โ 337.67 / 341.43 ยฑ3.52 / 347.69 ms โ +1.09x faster โ > โ QQuery 14 โ 194.71 / 197.06 ยฑ1.55 / 198.77 ms โ 191.35 / 195.28 ยฑ3.56 / 201.28 ms โ no change โ > โ QQuery 15 โ 324.22 / 331.51 ยฑ5.40 / 341.04 ms โ 320.89 / 323.67 ยฑ3.29 / 329.87 ms โ no change โ > โ QQuery 16 โ 119.57 / 123.10 ยฑ3.64 / 129.71 ms โ 114.08 / 114.91 ยฑ0.74 / 116.29 ms โ +1.07x faster โ > โ QQuery 17 โ 1562.46 / 1637.28 ยฑ123.05 / 1882.73 ms โ 1362.70 / 1369.87 ยฑ4.39 / 1375.48 ms โ +1.20x faster โ > โ QQuery 18 โ 1520.50 / 1555.74 ยฑ33.25 / 1617.16 ms โ 1375.78 / 1415.36 ยฑ26.77 / 1450.02 ms โ +1.10x faster โ > โ QQuery 19 โ 278.50 / 290.44 ยฑ14.92 / 318.03 ms โ 272.95 / 288.41 ยฑ24.93 / 338.10 ms โ no change โ > โ QQuery 20 โ 444.79 / 451.07 ยฑ3.45 / 453.90 ms โ 436.88 / 443.21 ยฑ5.19 / 448.41 ms โ no change โ > โ QQuery 21 โ 2975.83 / 3236.75 ยฑ151.25 / 3419.22 ms โ 2612.11 / 2652.91 ยฑ34.67 / 2702.19 ms โ +1.22x faster โ > โ QQuery 22 โ 192.70 / 199.78 ยฑ7.65 / 213.77 ms โ 151.75 / 161.45 ยฑ8.55 / 176.35 ms โ +1.24x faster โ > โโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ > โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ > โ Benchmark Summary โ โ > โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ > โ Total Time (HEAD) โ 18641.44ms โ > โ Total Time (sort_redesign) โ 15780.86ms โ > โ Average Time (HEAD) โ 847.34ms โ > โ Average Time (sort_redesign) โ 717.31ms โ > โ Queries Faster โ 13 โ > โ Queries Slower โ 0 โ > โ Queries with No Change โ 9 โ > โ Queries with Failure โ 0 โ > โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ > ``` > > Resource Usage > [File an issue](https://github.com/adriangb/datafusion-benchmarking/issues) against this benchmark runner So it seems like the big win here is the ExternalSorter refactor reducing merge fan-in, considering this run has radix sort off and the speedup is still pretty strong. This PR is mostly for experimenting anyway, but maybe this is motivation to structure the future work as: 1) ExternalSorter refactor to use `BatchCoalescer` to reduce merge fan-in. 2) After radix sort kernel lands in Arrow-rs and DF updates to that version of Arrow-rs, add radix sort support. -- This is an automated message from the Apache Git Service. To respond to the message, please log on to GitHub and use the URL above to go to the specific comment. To unsubscribe, e-mail: [email protected] For queries about this service, please contact Infrastructure at: [email protected] --------------------------------------------------------------------- To unsubscribe, e-mail: [email protected] For additional commands, e-mail: [email protected]
