一、简介Python 面试基础知识点涵盖了语言特性、数据类型、控制结构、函数、面向对象编程、异常处理、模块与包、文件操作等方面的内容。二、面经1、你认为好的代码应该是怎样的？2、python有哪些数据类型？3、python列表和链表的区别？4、python堆和栈的区别？5、python链表都有哪些？特点是什么，应用场景？6、python其他数据结构有哪些？7、说一下map用的数据结构？8、解决哈希冲突的几种方法？9、给你一个字符串，怎么判断它是整数？10、面向对象的特点有哪些？11、python设计模式有哪些？12、哈希表更像是一种列表还是链表？13、python 中列表中的 del，remo...

简介：当涉及机器学习时，概率论和统计学是两个重要的数学基础。它们为机器学习算法提供了理论支持，并帮助我们理解数据背后的不确定性和规律。其他系列面经请关注文章底部专栏：小白机器学习面试指南。持续更新中。 说说你是怎么理解信息熵的？ 答：信息熵是信息论中一个重要的概念，它是用来衡量信息的不确定性或者信息的平均不确定性的度量。在机器学习和数据科学中，信息熵被广泛用于构建决策树和衡量特征的重要性。 我将简要解释信息熵的理解： 信息熵的理解： 信息熵是衡量一个随机变量的不确定性的度量。在信息论中，假设有一个随机变量X，它的取值为x1, x2, ..., xn，每个取值xi的概率为P(xi)。那么X的信息...

简介：当涉及到机器学习中的贝叶斯方法时，通常指的是贝叶斯统计学或贝叶斯推断，它是一种用于处理不确定性的概率方法。该方法以18世纪英国数学家Thomas Bayes的名字命名，他开发了这种方法的基本原理。在传统的机器学习方法中，我们根据已知数据来训练模型，并使用该模型来预测新的未知数据。然而，贝叶斯方法采用了一种不同的方法，即将概率引入模型的参数和预测中。这使得贝叶斯方法能够更好地处理不确定性，并在小样本情况下表现较好。贝叶斯方法的基本思想是，我们开始对模型参数和未知数据的先验信念进行建模。然后，当我们观察到新数据时，我们使用贝叶斯定理来更新我们的信念，这样我们的预测就会更加准确。其他系列面经请...

简介：FM、FFM和DeepFM等都是用于解决推荐系统和CTR预测等问题的机器学习模型，能够进行一些特征交叉的工作，也是必备的一些知识点。下面整理了一些关于它们在面试中常问的一些知识点。 简单描述下FM、FFM、DeepFM的联系与区别？ 答：FM是一种基于因子分解的模型，用于解决稀疏特征下的预测问题。它通过学习特征之间的交互关系来捕获特征的二阶组合特征。FM可以有效地处理高维稀疏数据，并且参数规模与特征数量和特征维度相关，适用于处理稀疏数据的推荐问题。 FFM是FM的一种扩展，它引入了"Field"的概念，将特征分组到不同的Field中。在传统FM中，所有特征都被视为同一...

一、简介Attention机制是一种用于加强神经网络在处理序列数据中关注重要部分的机制。在处理长序列时，RNN可能难以捕捉到序列中不同部分的重要程度，导致信息传递不够高效。而Attention机制允许网络根据当前输入和其他位置的信息，动态地调整各个位置的权重，使得模型可以有选择地关注不同部分的输入。Transformer是一种基于Attention机制的神经网络架构，由著名且经典的"Attention is All You Need"一文提出，广泛应用于自然语言处理和其他序列建模任务。与传统的RNN和CNN结构不同，Transformer完全基于Attention机制来处理...

简介：RNN、GRU和LSTM都是用于处理序列数据的神经网络模型，它们具有记忆性质，适用于时间序列预测、自然语言处理等任务。在实际应用中，LSTM和GRU相对于传统的RNN通常表现更好，特别是在处理长序列和复杂任务时。选择使用哪种网络取决于任务的复杂性和数据的特点，通常可以通过实验对比来选择最适合的网络结构。下面总结了一些面试常问的相关面试题，其他系列面经请关注文章底部专栏：小白机器学习面试指南。持续更新中。 简单说一下什么是RNN？ RNN也叫循环神经网络，和传统的全链接神经网络相比，RNN每一层的神经元之间都有连接，同一层的神经元之间共享参数w，对于每一个神经元，对于每一个神经元，它首先会...

一、简介CNN代表卷积神经网络，是一类广泛应用于计算机视觉和图像处理任务的深度学习模型。CNN在图像识别、物体检测、人脸识别等领域取得了重大突破，并成为深度学习中的重要组成部分。CNN的基本结构由多个卷积层、池化层和全连接层组成。其主要特点是通过局部感受野（卷积核）与输入图像进行卷积操作，从而提取图像的局部特征。接着使用池化层对特征进行下采样，减少参数数量和计算量，同时保留重要信息。最后，通过全连接层将池化层输出映射到相应的类别。二、面经1、什么是卷积？什么是池化？2、为什么不同的机器学习领域都可以使用CNN，CNN解决了这些领域的哪些共性问题？它是如何解决的？3、CNN的特点以及优势？4、C...

简介：概念：利用训练语料中词与词之间的共线性，将自然语言中的词语转换成词向量的形式。本质上学习的是词与词之间的共线性。这个共现取决于滑动窗口的大小。 两种形式：包含了skip-grand,CBOW两种形式，首先我们会定义一个滑动窗口，CBOW是根据上下文词来预测中心词的概率，而skip-grand是根据中心词来预测上下文词的概率。 输入：样本的输入，比如说在我们的项目中，我们把文章的内容拼接到一起，然后分词，如果采用skip-grand的方式，现在我们有一个滑动窗口，窗口中有1，2，3，4，5，那么我们就会得到31，32，34，35四条样本，那么3就是我们的收入，1，2，4，5就是我们的tar...

一、简介在机器学习中，评价方法和评价指标用于衡量模型在给定数据上的性能和预测能力。不同的任务和问题可能会选择不同的评价方法和评价指标。如准确率、召回率、均方误差、AUC等。二、面经1、请问模型常用的评估方法有哪些？2、请问常用的评价指标有哪些？3、你知道准确率（Accuracy）、精确率（Precision）、召回率（Recall）是怎么算的吗？4、讲讲F1-score是怎么算的？5、针对上面提到的一些指标，当训练集中类别不均衡，哪个最不准确？6、ROC、AUC、PR曲线是什么关系？7、AUC为什么比其他指标好？8、AUC高是否一定说明auc高的模型排序能力更强？AUC对均匀正负样本采样不敏感...

一、简介在机器学习中，有几个重要的现象和技术对于模型的训练和泛化能力起着至关重要的作用。过拟合(Overfitting)是指在训练数据上表现良好，但在未见过的测试数据上表现较差的现象。过拟合发生时，模型在训练集上学习到了数据的噪声和细节，而未能捕获数据的通用规律。过拟合通常发生在模型复杂度过高、训练数据过少或者特征过于丰富的情况下。解决过拟合的常用方法是增加训练数据、减少模型复杂度，或者使用正则化技术。欠拟合（Underfitting）是指模型在训练数据上无法很好地拟合，导致训练和测试误差都较大的现象。欠拟合通常发生在模型复杂度不足或者训练数据质量较差的情况下。解决欠拟合的常用方法包括增加模型...

一、简介在机器学习和深度学习中，激活函数、损失函数和优化函数是三个重要的概念，也是在面试中很容易考察你在项目中这些函数选择的时候常问的一些问题。它们在神经网络和其他学习算法中发挥关键作用。激活函数（Activation Function）是神经网络中的一个非常重要的组件，它定义了神经元（或者称为节点）的输出。每个神经元都会将其输入加权求和后通过激活函数进行非线性转换，使得神经网络能够学习复杂的非线性关系，激活函数引入非线性是因为多个线性层的组合仍然是线性的，而引入非线性激活函数使得神经网络可以学习更加复杂的函数。常见的激活函数包括 Sigmoid、ReLU（Rectified Linear U...

一、简介当涉及到聚类和分类问题时，K-Means（k均值）和KNN（K最近邻）是两种常用的机器学习算法。K-Means的目标是最小化所有数据样本到其所属簇中心的平方距离之和，即簇内误差平方和（SSE）。该算法适用于密集型数据和簇结构明显的情况，但对于不同大小、不同密度的簇效果可能不佳。KNN通常适用于小规模的数据集，而且对于特征空间的维度较高时效果可能较差。此外，KNN是一种"懒惰学习"算法，它在预测时需要存储全部的训练数据，并且计算复杂度较高。二、面经1、请简单介绍一下Kmeans的思想，它的优缺点分别是什么？2、Kmeans时间、空间复杂度分别为多少？3、Kmeans聚...

一、简介当涉及到降维和特征提取时，PCA、LDA和SVD是三种常用的线性代数和机器学习算法。它们在不同的应用场景下有着各自的优势和用途，也是面试中常问的一些基础知识。一句话总结：PCA是一种无监督降维算法，通过保留数据的主要信息来减少特征维度。LDA是一种有监督降维算法，着重于最大化类别之间的可分性。SVD是一种数学分解技术，常用于矩阵分解和数据压缩。二、面经1、请介绍一下PCA？2、PCA的主要步骤是什么？3、PCA的优缺点是什么？4、请推导一下PCA？5、请推导一下SVD，SVD是如何做矩阵分解的？6、SVD和PCA的关系是怎么样的？7、请介绍一下LDA以及LDA的一般步骤？8、LDA的优...

一、简介XGBoost（Extreme Gradient Boosting）和LightGBM（Light Gradient Boosting Machine）都是梯度提升树（Gradient Boosting Trees）的变种，用于解决各种机器学习问题，如分类、回归和排名。它们都基于集成学习的思想，通过组合多个弱学习器（通常是决策树）来构建一个强大的预测模型。作为机器学习经典的算法，常用来解决各种分类、CTR预估等问题，在各大公司的业务场景也有着广泛的使用。二、面经1、XGBOOST的思想是什么？2、XGBOOST如何寻找最优特征，是有放回还是无放回？3、XGBOOST中使用了并行化计算，...