Este projeto tem como objetivo a análise e modelagem do mercado imobiliário da Califórnia, utilizando técnicas de ciência de dados para prever o valor mediano das casas (median_house_value). Através de análise exploratória, tratamento de dados e aplicação de modelos preditivos, buscamos compreender os fatores que influenciam os preços das casas e construir modelos precisos de previsão.
O conjunto de dados utilizado contém informações de várias regiões da Califórnia, incluindo atributos demográficos, geográficos e de infraestrutura das residências. Algumas das principais variáveis analisadas foram:
median_income: renda mediana da região.housing_median_age: idade mediana das casas.total_rooms,total_bedrooms: número total de cômodos e quartos.population: população da região.households: número de residências.median_house_value: valor mediano das casas (variável alvo).
O dataset contém valores faltantes, outliers e variáveis numéricas e categóricas que exigiram pré-processamento adequado.
Foi criado um gráfico de dispersão para explorar a relação entre median_income e median_house_value. Observa-se uma correlação positiva clara: regiões com maior renda mediana tendem a ter casas com valores mais altos, embora haja saturação para rendas muito elevadas.
Observações:
- Existe uma tendência linear para a maioria dos dados, mas com alguns pontos extremos que indicam outliers.
- Essa análise preliminar ajuda a identificar variáveis fortes para previsão e padrões não lineares.
Foram plotados histogramas para visualizar a distribuição das variáveis numéricas, especialmente median_income e median_house_value.
- Veja que é notória uma correlação linear positiva e que essa correlção faz sentido na medida que em regiões mais ricas tendem a ter imóveis mais caros.
Observações:
median_incomeapresenta uma distribuição levemente assimétrica à direita.median_house_valuemostra concentração de valores em faixas intermediárias, com alguns picos em valores máximos.- Essas informações ajudam a decidir técnicas de transformação ou normalização dos dados.
Boxplots foram utilizados para identificar outliers em total_rooms, total_bedrooms, population households, median_income e em median_house_value
Antes de Tratamento de Outliers e de Dados Faltantes
Pós Tratamento de Outliers e de Dados Faltantes
Observações:
- Valores extremamente altos em
median_incomeemedian_house_valueforam identificados. - Decidimos substituir outliers por valores próximos à média ou limitar os valores máximos, evitando que distorçam os modelos preditivos.
- Preenchimento de valores ausentes usando mediana das colunas.
- Identificação e tratamento de outliers através de Z-Score.
- Normalização de variáveis para modelos sensíveis a escala, como regressão linear.
- Criação de novas features relevantes, como:
rooms_per_household = total_rooms / householdsbedrooms_per_room = total_bedrooms / total_roomspopulation_per_household = population / households
O dataset foi dividido em 70% para treinamento e 30% para teste, garantindo que os modelos fossem avaliados em dados nunca vistos.
Justificativa:
- Evitar overfitting nos dados de treinamento.
- Medir o desempenho real do modelo em dados independentes.
- Facilitar comparação entre diferentes modelos.
Primeiro, foi treinado um modelo de Regressão Linear com todas as variáveis.
Em seguida, aplicamos feature selection, usando apenas median_income, housing_median_age e rooms_per_household.
Resultados:
- MAE: 44433.5801390594
- MSE: 3589975718.382059
- R²: 0.525610403430857
- MAE: 52757.85801554843
- MSE: 4758976716.716653
- R²: 0.37113528841843424
De forma análoga, foi treinado um modelo de Árvore de Decisão com todas as variáveis.
Em seguida, aplicamos feature selection, usando apenas median_income, housing_median_age e rooms_per_household.
Resultados:
- MAE: 38687.331589576526
- MSE: 3112440491.8991985
- R²: 0.5887132657368046
- MAE: 54407.37088189962
- MSE: 5130620480.623085
- R²: 0.3220252249925827
Comparação de Desempenho:
| Modelo | MAE | MSE | R² |
|---|---|---|---|
| Árvore de Decisão | 38687.33 | 3112440491.89 | 0.588 |
| Regressão Linear | 44433.58 | 3589975718.38 | 0.525 |
Observações:
- A Árvore de Decisão capturou melhor relações não lineares, apresentando MAE mais baixo no treinamento.
- No conjunto de teste, o desempenho foi próximo à regressão linear, mostrando que a árvore pode overfit se não for regulada (ex: profundidade máxima).
Regressão Linear com todas as Features
- MAE: 44433.5801390594
- MSE: 3589975718.382059
- R²: 0.525610403430857
Regressão Linear com Features específicas
- MAE: 52757.85801554843
- MSE: 4758976716.716653
- R²: 0.37113528841843424
Árvore de Decisão com todas as Features
- MAE: 38687.331589576526
- MSE: 3112440491.8991985
- R²: 0.5887132657368046
Árvore de Decisão com Features específicas
- MAE: 54407.37088189962
- MSE: 5130620480.623085
- R²: 0.3220252249925827
O modelo de regressão linear desempenho bem ultrapassando a 0.5 com Coeficiente de Determinação R². No entanto, treinar o modelo apenas com as festures median_income, housing_median_age, e total_rooms ocasionou em resultados inferiores e isso é exposto tanto pelo próprio R² que diminui, quanto pelo MAE e MSE que aumentaram. Logo, é possível concluir que utilizar todas as features seja o caminho ideal para criação do modelo de Regresão Linear.
O modelo de Árvore de Decisão desempenhou também muito bem, pois ultrapassou 0.5 com Coeficiente de Determinação R² também. No entanto, semelhantemente ao regressor linear, treinar o modelo apenas com as festures median_income, housing_median_age, e total_rooms resultou em resultados inferiores e isso é visto tanto pelo R² menor, quanto pelo MAE e MSE maiores. Então, utilizar todas as features é também a melhor estratégia para o respectivo modelo.
O modelo de Árvore de decisão foi bem superior que o modelo de Regressão Linear, e isso se deve pelo fato de que Árvores de Decisão dividem o espaço dos dados em regiões baseadas em divisões sucessivas. Logo, para dados que não possuem propriedades de linearidade e sim propriedades booleanas, como nas 5 novas colunas pós One Hot Endonding, o modelo de Árvore de Decisão acaba se encaixando melhor pois ele consegue interpretar melhor os dados de entrada dessas 5 colunas em específicos, apesar de que os dados de outras colunas também terem uma característica quase booleana que inclusive pode ser visto em gráficos de dipersão no início desse notebook.