用 PHP 实现的简单线性回归(二)

解决输出和概率函数缺陷的数据研究工具

本系列文章的第 1 部分结尾处提到了简单线性回归（Simple Linear Regression）类中缺少的三个元素。在本文中，作者 Paul Meagher 用基于 PHP 的概率函数弥补了这些缺陷，演示了如何将输出方法集成到 SimpleLinearRegression 类中并创建了图形输出。他通过构建数据研究工具解决了这些问题，该工具旨在深层次地研究中小规模的数据集所包含的信息。（在第 1 部分中，作者演示了如何用 PHP 作为实现语言来开发和实现简单线性回归算法包的核心部分。）


在这个由两部分组成的系列文章的第 1 部分（“用 PHP 实现的简单线性回归”）中，我说明了数学库对 PHP 有用的原因。我还演示了如何用 PHP 作为实现语言来开发和实现简单线性回归算法的核心部分。

本文的目标是向您展示如何使用第 1 部分中讨论的 SimpleLinearRegression 类来构建一个重要的数据研究工具。

简要回顾：概念
简单线性回归建模背后的基本目标是从成对的 X 值和 Y 值（即 X 和 Y 测量值）组成的二维平面中找到最吻合的直线。一旦用最小方差法找到这条直线，就可以执行各种统计测试，以确定这条直线与观测到的 Y 值的偏离量吻合程度。

线性方程（y = mx + b）有两个参数必须根据所提供的 X 和 Y 数据估算出来，它们是斜率（m）和 y 轴截距（b）。一旦估算出这两个参数，就可以将观测值输入线性方程，并观察方程所生成的 Y 预测值。

要使用最小方差法估算出 m 和 b 参数，就要找到 m 和 b 的估计值，使它们对于所有的 X 值得到的 Y 值的观测值和预测值最小。观测值和预测值之差称为误差（yi - (mxi + b)），并且，如果对每个误差值都求平方，然后求这些残差的和，其结果是一个被称为预测平方差的数。使用最小方差法来确定最吻合的直线涉及寻找使预测方差最小的 m 和 b 的估计值。

可以用两种基本方法来找到满足最小方差法的估计值 m 和 b。第一种方法，可以使用数值搜索过程设定不同的 m 和 b 值并对它们求值，最终决定产生最小方差的估计值。第二种方法是使用微积分找到用于估算 m 和 b 的方程。我不打算深入讨论推导出这些方程所涉及的微积分，但我确实在 SimpleLinearRegression 类中使用了这些分析方程，以找到 m 和 b 的最小平方估计值（请参阅 SimpleLinearRegression 类中的 getSlope() 和 getYIntercept 方法）。

即使拥有了可以用来找到 m 和 b 的最小平方估计值的方程，也并不意味着只要将这些参数代入线性方程，其结果就是一条与数据良好吻合的直线。这个简单线性回归过程中的下一步是确定其余的预测方差是否可以接受。

可以使用统计决策过程来否决“直线与数据吻合”这个备择假设。这个过程基于对 T 统计值的计算，使用概率函数求得随机大的观测值的概率。正如第 1 部分所提到的，SimpleLinearRegression 类生成了为数众多的汇总值，其中一个重要的汇总值是 T 统计值，它可以用来衡量线性方程与数据的吻合程度。如果吻合良好，则 T 统计值往往是一个较大的值；如果 T 值很小，就应该用一个缺省模型代替您的线性方程，该模型假定 Y 值的平均值是最佳预测值（因为一组值的平均值通常可以是下一个观测值的有用的预测值）。

要测试 T 统计值是否大到可以不用 Y 值的平均值作为最佳预测值，需要计算随机获得 T 统计值的概率。如果概率很低，那就可以不采用平均值是最佳预测值这一无效假设，并且相应地可以确信简单线性模型是与数据良好吻合的。（有关计算 T 统计值概率的更多信息，请参阅第 1 部分。）

回过头讨论统计决策过程。它告诉您何时不采用无效假设，却没有告诉您是否接受备择假设。在研究环境中，需要通过理论参数和统计参数来建立线性模型备择假设。

您将构建的数据研究工具实现了用于线性模型（T 测试）的统计决策过程，并提供了可以用来构造理论和统计参数的汇总数据，这些参数是建立线性模型所需要的。数据研究工具可以归类为决策支持工具，供知识工作者在中小规模的数据集中研究模式。

从学习的角度来看，简单线性回归建模值得研究，因为它是理解更高级形式的统计建模的必由之路。例如，简单线性回归中的许多核心概念为理解多次回归（Multiple Regression）、要素分析（Factor Analysis）和时间序列（Time Series）等建立了良好的基础。

简单线性回归还是一种多用途的建模技术。通过转换原始数据（通常用对数或幂转换），可以用它来为曲线数据建模。这些转换可以使数据线性化，这样就可以使用简单线性回归来为数据建模。所生成的线性模型将被表示为与被转换值相关的线性公式。

概率函数

在前一篇文章中，我通过交由 R 来求得概率值，从而避开了用 PHP 实现概率函数的问题。我对这个解决方案并非完全满意，因此我开始研究这个问题：开发基于 PHP 的概率函数需要些什么。

我开始上网查找信息和代码。一个两者兼有的来源是书籍 ［url=http://www.library.cornell.edu/nr/bookcpdf.html］Numerical Recipes in C [/url] 中的概率函数。我用 PHP 重新实现了一些概率函数代码（gammln.c 和 betai.c 函数），但我对结果还是不满意。与其它一些实现相比，其代码似乎多了些。此外，我还需要反概率函数。

幸运的是，我偶然发现了 John Pezzullo 的 Interactive Statistical Calculation。John 关于概率分布函数的网站上有我需要的所有函数，为便于学习，这些函数已用 JavaScript 实现。

我将 Student T 和 Fisher F 函数移植到了 PHP。我对 API 作了一点改动，以便符合 Java 命名风格，并将所有函数嵌入到名为 Distribution 的类中。该实现的一个很棒的功能是 doCommonMath 方法，这个库中的所有函数都重用了它。我没有花费力气去实现的其它测试（正态测试和卡方测试）也都使用 doCommonMath 方法。

这次移植的另一个方面也值得注意。通过使用 JavaScript，用户可以将动态确定的值赋给实例变量，譬如：

var PiD2 = pi() / 2


在 PHP 中不能这样做。只能把简单的常量值赋给实例变量。希望在 PHP5 中会解决这个缺陷。

请注意清单 1 中的代码并未定义实例变量 — 这是因为在 JavaScript 版本中，它们是动态赋予的值。

清单 1. 实现概率函数
<?php

// Distribution.php

// Copyright John Pezullo
// Released under same terms as PHP.
// PHP Port and OO@#fying by Paul Meagher

class Distribution {

function doCommonMath($q, $i, $j, $b) {

$zz = 1;
$z = $zz;
$k = $i;


while($k <= $j) {
$zz = $zz * $q * $k / ($k - $b);
$z = $z + $zz;
$k = $k + 2;
}
return $z;
}

function getStudentT($t, $df) {

$t = abs($t);
$w = $t / sqrt($df);
$th = atan($w);

if ($df == 1) {
return 1 - $th / (pi() / 2);
}

$sth = sin($th);
$cth = cos($th);

if( ($df % 2) ==1 ) {
return
1 - ($th + $sth * $cth * $this->doCommonMath($cth * $cth, 2, $df - 3, -1))
/ (pi()/2);
} else {
return 1 - $sth * $this->doCommonMath($cth * $cth, 1, $df - 3, -1);
}

}

function getInverseStudentT($p, $df) {

$v = 0.5;
$dv = 0.5;
$t = 0;

while($dv > 1e-6) {
$t = (1 / $v) - 1;
$dv = $dv / 2;
if ( $this->getStudentT($t, $df) > $p) {
$v = $v - $dv;
} else {
$v = $v + $dv;
}
}
return $t;
}


function getFisherF($f, $n1, $n2) {
// implemented but not shown
}

function getInverseFisherF($p, $n1, $n2) {
// implemented but not shown
}

}
?>




输出方法
既然您已经用 PHP 实现了概率函数，那么开发基于 PHP 的数据研究工具剩下的唯一难题就是设计用于显示分析结果的方法。

简单的解决方案是根据需要将所有实例变量的值都显示到屏幕上。在第一篇文章中，当显示燃耗研究（Burnout Study）的线性方程、T 值和 T 概率时，我就是这么做的。能根据特定目的而访问特定值是很有帮助的，SimpleLinearRegression 支持此类用法。

然而，另一种用于输出结果的方法是将输出的各部分系统化地进行分组。如果研究用于回归分析的主要统计软件包的输出，就会发现它们往往是用同样的方式对输出进行分组的。它们往往有摘要表（Summary Table）、偏离值分析（Analysis Of Variance）表、参数估计值（Parameter Estimate）表和 R 值（R Value）。类似地，我创建了一些输出方法，名称如下：

showSummaryTable()
showAnalysisOfVariance()
showParameterEstimates()
showRValues()

我还有一个用于显示线性预测公式的方法（getFormula()）。许多统计软件包不输出公式，而是希望用户根据上述方法的输出构造公式。部分是由于您最后用来对数据建模的公式的最终形式可能由于下列原因而与缺省公式不同：

1.Y 轴截距没有有意义的解释
2.或者输入值可能是经过转换的，而您可能需要取消对它们的转换以获取最终的解释。

所有这些方法都假定输出媒介是网页。考虑到您有可能希望用非网页的其它媒介输出这些汇总值，所以我决定将这些输出方法包装在一个继承了 SimpleLinearRegression 类的类中。清单 2 中的代码旨在演示输出类的通用逻辑。为了使通用逻辑更突出，所以除去了实现各种 show 方法的代码。

清单 2. 演示输出类的通用逻辑
<?php

// HTML.php

// Copyright 2003, Paul Meagher
// Distributed under GPL

include_once "slr/SimpleLinearRegression.php";

class SimpleLinearRegressionHTML extends SimpleLinearRegression {

function SimpleLinearRegressionHTML($X, $Y, $conf_int) {
SimpleLinearRegression::SimpleLinearRegression($X, $Y, $conf_int);
}

function showTableSummary($x_name, $y_name) { }

function showAnalysisOfVariance() { }

function showParameterEstimates() { }

function showFormula($x_name, $y_name) { }

function showRValues() {}
}

?>




这个类的构造函数只是 SimpleLinearRegression 类构造函数的包装器。这意味着如果您想显示 SimpleLinearRegression 分析的 HTML 输出，则应该实例化 SimpleLinearRegressionHTML 类，而不是直接实例化 SimpleLinearRegression 类。其优点是不会有许多未使用的方法充斥 SimpleLinearRegression 类，并且可以更自由地定义用于其它输出媒介的类（也许会对不同媒介类型实现同一 API）。

图形输出
迄今为止，您已经实现的输出方法都以 HTML 格式显示汇总值。它也适合于用 GIF、JPEG 或 PNG 格式显示这些数据的分布图（scatter plot）或线图（line plot）。

与其亲自编写生成线图和分布图的代码，我认为最好使用名为 JpGraph 的基于 PHP 的图形库。JpGraph 正由 Johan Persson 积极开发，其项目网站这样描述它：


无论是对于只有最少代码的“以快捷但不恰当方式获得的”图形，还是对于需要非常细粒度控制的复杂专业图形，JpGraph 都可以使它们的绘制变得简单。JpGraph 同样适用于科学和商业类型的图形。

JpGraph 分发版中包含大量可以根据特定需求进行定制的示例脚本。将 JpGraph 用于数据研究工具非常简单，只需找到功能与我的需求类似的示例脚本，然后对该脚本进行改写以满足我的特定需求即可。

清单 3 中的脚本是从样本数据研究工具（explore.php）中抽取的，它演示了如何调用该库以及如何将来自于 SimpleLinearRegression 分析的数据填入 Line 和 Scatter 类。这段代码中的注释是 Johan Persson 编写的（JPGraph 代码库的文档化工作做得很好）。

清单 3. 来自于样本数据研究工具 explore.php 的函数的详细内容<?php

// Snippet extracted from explore.php script

include ("jpgraph/jpgraph.php");
include ("jpgraph/jpgraph_scatter.php");
include ("jpgraph/jpgraph_line.php");

// Create the graph
$graph = new Graph(300,200,@#auto@#);
$graph->SetScale("linlin");

// Setup title
$graph->title->Set("$title");
$graph->img->SetMargin(50,20,20,40);
$graph->xaxis->SetTitle("$x_name","center");
$graph->yaxis->SetTitleMargin(30);
$graph->yaxis->title->Set("$y_name");

$graph->title->SetFont(FF_FONT1,FS_BOLD);

// make sure that the X-axis is always at the
// bottom at the plot and not just at Y=0 which is
// the default position
$graph->xaxis->SetPos(@#min@#);

// Create the scatter plot with some nice colors
$sp1 = new ScatterPlot($slr->Y, $slr->X);
$sp1->mark->SetType(MARK_FILLEDCIRCLE);
$sp1->mark->SetFillColor("red");
$sp1->SetColor("blue");
$sp1->SetWeight(3);
$sp1->mark->SetWidth(4);

// Create the regression line
$lplot = new LinePlot($slr->PredictedY, $slr->X);
$lplot->SetWeight(2);
$lplot->SetColor(@#navy@#);

// Add the pltos to the line
$graph->Add($sp1);
$graph->Add($lplot);

// ... and stroke
$graph_name = "temp/test.png";
$graph->Stroke($graph_name);
?>
<img src=><?php echo $graph_name ?>@# vspace=@#15@#>

?>


数据研究脚本
该数据研究工具由单个脚本（explore.php）构成，该脚本调用 SimpleLinearRegressionHTML 类和 JpGraph 库的方法。

该脚本使用了简单的处理逻辑。该脚本的第一部分对所提交的表单数据执行基本验证。如果这些表单数据通过验证，则执行该脚本的第二部分。

该脚本的第二部分所包含的代码用于分析数据，并以 HTML 和图形格式显示汇总结果。清单 4 中显示了 explore.php 脚本的基本结构：

清单 4. explore.php 的结构
<?php

// explore.php

if (!empty($x_values)) {
$X = explode(",", $x_values);
$numX = count($X);
}

if (!empty($y_values)) {
$Y = explode(",", $y_values);
$numY = count($Y);
}

// display entry data entry form if variables not set

if ( (empty($title)) OR (empty($x_name)) OR (empty($x_values)) OR
(empty($y_name)) OR (empty($conf_int)) OR (empty($y_values)) OR
($numX != $numY) ) {

// Omitted code for displaying entry form

} else {

include_once "slr/SimpleLinearRegressionHTML.php";
$slr = new SimpleLinearRegressionHTML($X, $Y, $conf_int);

echo "<h2>$title</h2>";

$slr->showTableSummary($x_name, $y_name);
echo "<br><br>";

$slr->showAnalysisOfVariance();
echo "<br><br>";

$slr->showParameterEstimates($x_name, $y_name);
echo "<br>";

$slr->showFormula($x_name, $y_name);
echo "<br><br>";

$slr->showRValues($x_name, $y_name);
echo "<br>";

include ("jpgraph/jpgraph.php");
include ("jpgraph/jpgraph_scatter.php");
include ("jpgraph/jpgraph_line.php");

// The code for displaying the graphics is inline in the
// explore.php script. The code for these two line plots
// finishes off the script:

// Omitted code for displaying scatter plus line plot
// Omitted code for displaying residuals plot

}

?>


火灾损失研究
为了演示如何使用数据研究工具，我将使用来自假想的火灾损失研究的数据。这个研究将主要住宅区火灾损失的金额与它们到最近消防站的距离关联起来。例如，出于确定保险费的目的，保险公司会对这种关系的研究感兴趣。

该研究的数据如图 1 中的输入屏幕所示。

图 1. 显示研究数据的输入屏幕



数据被提交之后，会对它进行分析，并显示这些分析的结果。第一个显示的结果集是 Table Summary，如图 2 所示。

图 2. Table Summary 是所显示的第一个结果集



Table Summary 以表格形式显示了输入数据和其它列，这些列指出了对应于观测值 X 的预测值 Y、Y 值的预测值和观测值之间的差以及预测 Y 值置信区间的下限和上限。

图 3 显示了 Table Summary 之后的三个高级别数据汇总表。

图 3. 显示了 Table Summary 之后的三个高级别数据汇总表



Analysis of Variance 表显示了如何将 Y 值的偏离值归为两个主要的偏离值来源，由模型解释的方差（请看 Model 行）和模型不能解释的方差（请看 Error 行）。较大的 F 值意味着该线性模型捕获了 Y 测量值中的大多数偏离值。这个表在多次回归环境中更有用，在那里每个独立变量都在表中占有一行。

Parameter Estimates 表显示了估算的 Y 轴截距（Intercept）和斜率（Slope）。每行都包括一个 T 值以及观测到极限 T 值的概率（请看 Prob > T 列）。斜率的 Prob > T 可用于否决线性模型。

如果 T 值的概率大于 0.05（或者是类似的小概率），那么您可以否决该无效假设，因为随机观测到极限值的可能性很小。否则您就必须使用该无效假设。

在火灾损失研究中，随机获得大小为 12.57 的 T 值的概率小于 0.00000。这意味着对于与该研究中观测到的 X 值区间相对应的 Y 值而言，线性模型是有用的预测器（比 Y 值的平均值更好）。

最终报告显示了相关性系数或 R 值。可以用它们来评估线性模型与数据的吻合程度。高的 R 值表明吻合良好。

每个汇总报告对有关线性模型和数据之间关系的各种分析问题提供了答案。请查阅 Hamilton、Neter 或 Pedhauzeur 编写的教科书，以了解更高级的回归分析处理(请参阅参考资料）。

要显示的最终报告元素是数据的分布图和线图，如图 4 所示。

图 4. 最终报告元素 — 分布图和线图



大多数人都熟悉线图（如本系列中的第一幅图）的说明，因此我将不对此进行注释，只想说 JPGraph 库可以产生用于 Web 的高质量科学图表。当您输入分布或直线数据时，它也做得很好。

第二幅图将残差（观测的 Y、预测的 Y）与您预测的 Y 值关联起来。这是研究性数据分析（Exploratory Data Analysis，EDA）的倡导者所使用的图形示例，用以帮助将分析人员对数据中的模式的检测和理解能力提到最高程度。行家可以使用这幅图回答关于下列方面的问题：

可能的非正常值或影响力过度的例子
可能的曲线关系（使用转换？）
非正态残差分布
非常量误差方差或异方差性

可以轻松地扩展这个数据研究工具，以生成更多类型的图形 — 直方图、框图和四分位数图 — 这些都是标准的 EDA 工具。

数学库体系结构
对数学的业余爱好使我在最近几个月中保持着对数学库的浓厚兴趣。此类研究推动我思考如何组织我的代码库以及使其预期在未来能不断增长。

我暂时采用清单 5 中的目录结构：

清单 5. 易于增长的目录结构
phpmath/

burnout_study.php
explore.php
fire_study.php
navbar.php

dist/
Distribution.php
fisher.php
student.php
source.php

jpgraph/
etc...

slr/
SimpleLinearRegression.php
SimpleLinearRegressionHTML.php

temp/




例如，未来有关多次回归的工作，将涉及扩展这个库以包括 matrix 目录，该目录用来容纳执行矩阵操作（这是对于更高级形式的回归分析的需求）的 PHP 代码。我还将创建一个 mr 目录，以容纳实现多次回归分析输入方法、逻辑和输出方法的 PHP 代码。

请注意这个目录结构包含一个 temp 目录。必须设置该目录的许可权，使 explore.php 脚本能够将输出图写到该目录。在尝试安装 phpmath_002.tar.gz 源代码时请牢记这一点。此外，请在 JpGraph 项目网站上阅读安装 JpGraph 的指示信息（请参阅参考资料）。

最后提一点，如果采取以下作法，可以将所有软件类移到 Web 根目录之外的文档根目录：


使某个全局 PHP_MATH 变量有权访问非 Web 根目录位置，并且
确保在所有需要或包括的文件路径前面加上这个已定义的常量作为前缀。

将来，对 PHP_MATH 变量的设置将通过一个用于整个 PHP 数学库的配置文件来完成。

您学到了什么？
在本文中，您了解了如何使用 SimpleLinearRegression 类开发用于中小规模的数据集的数据研究工具。在此过程中，我还开发了一个供 SimpleLinearRegression 类使用的本机概率函数，并用 HTML 输出方法和基于 JpGraph 库的图形生成代码扩展该类。

从学习的角度来看，简单线性回归建模是值得进一步研究的，因为事实证明，它是理解更高级形式的统计建模的必由之路。在深入学习更高级的技术（如多次回归或多变量方差分析）之前，对于简单线性回归的透彻理解将使您受益匪浅。

即使简单线性回归只用一个变量来说明或预测另一个变量的偏离值，在所有的研究变量之间寻找简单线性关系仍然常常是研究性数据分析的第一步。仅因为数据是多元的并不意味着就必须使用多元工具研究它。实际上，在开始时使用简单线性回归这样的基本工具是着手探究数据模式的好方法。

本系列研究了简单线性回归分析的两个应用。在本文中，我研究了“到消防站的距离”和“火灾损失”之间的强线性关系。在第一篇文章中，我研究了“社会集中度”和称为“消耗指数”的测量值之间的线性关系，尽管这种关系相对弱一些，但仍然十分明显。（作为练习，用本文中讨论的数据研究工具重新研究第一个研究案例中较为凌乱的数据可能会很有趣。您可能会注意到 y 轴截距是负数的情况，这意味着“社会集中度”为 0，预测消耗指数为 -29.50。这有意义吗？在对一种现象建模时，您应该问问自己：方程是否应该包含可选的 y 轴截距，如果可以，那么该 y 轴截距在线性方程中会起什么作用。）

对于简单线性回归的进一步研究可能包括对这些主题的研究：


*如果想从您的方程以及可以使用的其它计算公式中略去截距，则何时可以这样做
*何时以及如何使用幂、对数和其它转换来对数据进行线性化，以便用简单线性回归来对该数据建模
*可以用来评估您的建模假设的充分性，并可以更清晰地洞察数据中的模式的其它可视化方法

这些是有待学习简单线性回归的学生研究的一部分更高级的主题。参考资料包含了几个指向高级主题文章的链接，您可以从中参考更多关于回归分析的信息。

标准 PHP 安装提供了开发基于数学的重要应用程序所必须的许多资源。我希望这个系列的文章能启发其他开发人员出于乐趣、技术或学习挑战的目的而用 PHP 来实现数学例程。


相关附件：本文所用源代码下载

参考资料
1.请参考由 James T. McClave 和 Terry Sincich 编著的广受欢迎的大学教科书 Statistics，第 9 版（Prentice-Hall，在线），本文中所使用的算法步骤和“燃耗研究”示例参考了该书。
2.请查阅 PEAR 资源库，它目前包含了少量低级别的 PHP 数学类。最终，应该会很高兴地看到 PEAR 包含实现标准的较高级别的数值方法（比如 SimpleLinearRegression、MultipleRegression、TimeSeries、ANOVA、FactorAnalysis、FourierAnalysis 及其它）的包。
3.查看作者的 SimpleLinearRegression 类的所有源代码。
4.了解一下Numerical Python 项目，它用非常科学的数组语言以及成熟的建立下标方法扩展了 Python。有了该扩展，数学操作就非常接近人们期望从编译语言所获得的功能。
5.研究可用于 Perl 的许多数学参考资料，包括 CPAN 数学模块的索引和 CPAN 中算法部分的模块，以及 Perl 数据语言（Perl Data Language），它旨在为 Perl 提供压缩存储以及快速操作大型 N 维数据数组的能力。
6.有关 John Chambers 的 S 编程语言的更多信息，请查阅关于他的出版物以及他在贝尔实验室的各项研究项目的链接。还可以了解在 1998 年因语言设计而获得的 ACM 奖。
7.R 是用于统计计算和图形的语言和环境，类似于获奖的 S System，R 提供了诸如线性和非线性建模、统计测试、时间序列分析、分类、群集之类的统计和图形技术。请在 R Project 主页上了解 R。
8.如果您刚接触 PHP，那么请阅读 Amol Hatwar 的 developerWorks 系列文章：“用 PHP 开发健壮的代码:”“第 1 部分: 高屋建瓴的介绍 ”（2002 年 8 月）、“第 2 部分: 有效地使用变量”（2002 年 9 月）和“第 3 部分: 编写可重用函数”（2002 年 11 月）。
9.访问 John Pezzullo 的优秀站点，该站点专门提供执行统计计算的网页。基于 PHP 的概率函数是以在 John 的概率函数页面所找到的代码为基础的。
10.到 Digital Library of Mathematical Functions 了解关于 M. Abramowitz 和 I.A. Stegun 编写的书籍 The Handbook of Mathematical Functions（也称为 AMS55）的更多信息。
11.查看 JpGraph 站点，以获取关于 PHP 的主要 OO 图形库的大量信息。
12.阅读美国国家标准与技术研究所（National Institute of Standards，NIST）出版的 The Engineering Handbook of Statistics，该手册上有几章是关于 Exploratory Data Analysis 的，非常不错。
13.如果您对于更详尽地学习关于回归的主题感兴趣的话，请尝试阅读以下有用的参考资料：

L. C. Hamilton（1992年）。Regression with Graphics。加州 Pacific Grove：Brooks/Cole Publishing Company。
J Neter、M.H. Kutner 和 W Wasserman W（1990 年）。Applied Linear Regression Models（第 3 版）。芝加哥 Irwin。
E. J. Pedhazur（1982 年）。Multiple regression in behavioral research。纽约州，纽约市：Holt，Rinehart and Winston。

14.阅读 Cameron Laird 的文章“Open source in the biosciences”。PHP 需要更好的数学工具来参与这个不断成长的市场（developerWorks，2002 年 11 月）。
15.查看 RWeb，它是基于 Web 的 R 接口。

原文转自：http://www.ltesting.net