三、处理异常值
识别异常值：可以通过箱型图、Z-score方法、四分位距（IQR）法等方式来识别数据中的异常值。
处理异常值：对于识别出的异常值，可以根据具体情况进行处理。常见的处理方法包括不处理（如果异常值是由于实际存在的极端现象导致的）、用平均值替代（简单高效，但可能引入偏差）、视为缺失值处理（采用处理缺失值的方法来处理异常值）等。
四、数据转换与标准化
数据转换：根据需要将分类数据转换为数值型数据，或者对数据进行对数转换等处理，以便进行后续的数据分析。
数据标准化：将数据按照一定规则进行格式化，如将字符串转换为数字；或者将数据转化到相同的范围内，如使用Min-Max归一化或Z-Score归一化等方法，以便进行比较和分析。
五、其他常见技巧
统一数值口径：在处理数据时，需要确保数值口径的统一性。例如，在统计销售任务指标时，需要明确是使用合同金额还是回款金额等。
去掉多余的空格：原始数据中可能夹杂着大量的空格，这可能会在筛选数据或统计时带来麻烦。可以使用TRIM、LTRIM、RTRIM等函数来去除数据两端的空格。
字段去重：如果数据中存在重复字段，需要进行去重处理。可以使用Excel中的“删除重复项”功能或编写相应的代码来实现。
拆分单元格：对于合并的单元格，需要进行拆分并填充相应的数据。可以使用Excel中的“取消合并单元格”功能，并结合定位空白单元格和填充数据等操作来实现。
分组计算：有时需要根据某些条件对数据进行分组计算。可以使用VLOOKUP函数等来实现字段的合并和计算。
二维表转换：在处理复杂数据时，可能需要将二维表进行转换。可以使用数据透视表等工具来实现。
综上所述，数据清洗是一个复杂且耗时的过程，需要根据数据的具体情况和业务需求选择合适的清洗方法和技巧。同时，数据清洗也是一个反复的过程，需要不断地检查和修正数据中的问题。
李明在进行缺失值填充时，可以采用多种具体方法，这些方法的选择通常取决于数据的性质、缺失值的数量以及分析目的。以下是一些常见的缺失值填充方法：
一、固定值填充
特定值填充：
使用一个特定的数值（如0、9999、-9999等）来填充缺失值。
这种方法简单易行，但可能引入偏差，特别是当缺失值数量较多时。
特殊标记填充：
使用一个特殊值（如NULL、NA等）来标记缺失值。
这种方法有助于保留缺失值的信息，便于后续处理和分析。
二、统计值填充
均值填充：
对于数值型数据，可以使用未缺失数据的均值来填充缺失值。
适用于数据分布均匀且没有异常值的情况。
中位数填充：
使用未缺失数据的中位数来填充缺失值。
适用于数据分布不均或有异常值的情况，因为中位数对异常值不敏感。
众数填充：
对于分类数据，可以使用未缺失数据的众数来填充缺失值。
这种方法保留了数据的主要趋势。
三、插值法填充
线性插值：
根据数据点的线性关系，通过已知的邻近数据点来预测缺失值。
适用于数据变化趋势为线性的情况。
其他插值方法：
如拉格朗日插值、牛顿插值等，这些方法可以根据数据的复杂程度进行选择。
四、基于模型的方法
回归模型：
建立回归方程，利用已知属性值代入方程来估计未知属性值。
适用于数据之间存在一定关系的情况。
决策树/随机森林：
利用决策树或随机森林等机器学习算法来预测缺失值。
这些方法能够处理复杂的非线性关系，并且具有较高的预测准确性。
K近邻（KNN） ：
找到与缺失值最近的K个数据点，用这些点的平均值或加权平均值来填补缺失值。
适用于数据点之间距离度量有效的情况。
期望最大化（EM）算法：
通过迭代计算，求解使缺失值填补后数据似然函数最大的值。
适用于数据缺失机制复杂且需要同时考虑参数估计和缺失值填补的情况。
五、其他方法
前向/后向填充：
使用前面或后面的已知值来填充缺失值。
适用于时间序列数据或具有趋势性的数据。
多重插补：
在缺失值较多的情况下，采用多重插补方法。
该方法假设缺失值是随机的，通过多次插补和建模，最后取平均结果。
组合方法：
将多种填补方法的结果进行组合，以提高填补的准确性。
六、注意事项
这章没有结束，请点击下一页继续阅读！